TWD | USD

機器學習時代已來臨 – 請智慧地加以運用

機器學習 (ML) 是人工智慧 (AI) 的分支,已經在醫療診斷、影像處理、分類、預測、迴歸測試等應用中有效運用。在考慮使用 ML 時,通常有兩個風險層面:使用安全性以及對發現結果有效性的影響。

圖 1:工業物聯網 (IIoT) 有許多的互連元件,若能在系統中整合機器學習,就可更有效地進行管理。(圖片來源:SlideShare.net)

對 AI 安全性的攻擊並不是什麼新鮮事,但現在已變得越來越複雜。未經授權的使用者可以利用多個點,即攻擊面偷偷輸入或擷取資料。有三個層面具有風險漏洞,即輸入資料、演算法設計以及輸出決策。

機器學習的最佳實現方法莫過於存取巨量資料並藉此進行學習,而且人類很難處理如此大量的資料。攻擊的手段包括建立「後門」來毒害訓練模型,以及插入惡意的酬載或觸發器等。在 AI 的這個區段,演算法不僅複雜且無法預測,且不受任何標準和規範的約束,而是依據專有資料而設計,因此更難以偵測到竄改情況。

除了安全性之外,還有另一個風險層面。由於機器學習模型由人類建立,因此會受到內建於模型中的偏差的影響。資料偏差相當危險,需要小心控管。偏差的控管是控管機器學習風險的一個重要部分。

此外,資料是否充足,以及是否有優良或適當的資料都是風險的一部份。若想找出最佳輸入以獲得最佳輸出,缺乏擁有足夠資料點的變數資料,可能會構成一大問題。構成機器學習模型的資料,應該在資料類型、時間範圍及其他形式的變化上具有多樣性。

最後,還必須考量輸出的解讀。輸出可能會被誤讀。雖然模型可以提供預測和指引,但務必要考慮模型的建構方式、提出哪些假設,以及輸出所傳達的資訊,這樣才能產生有價值的解讀。

以前就已出現過許多出錯的狀況,例如:

  • 在 2016 年的英國脫歐公投期間,英鎊在兩分鐘內貶值 6% 就是演算法造成的。
  • 美國境內的刑事司法體系預測再犯率的演算法具有種族偏見。
  • 在功能性磁振造影 (fMRI) 中發現錯誤的統計假設和程式錯誤後,許多大腦研究的結果都令人質疑。
  • 當比特幣價格在 2017 年飆漲時,駭客曾利用 Google Cloud 執行個體免費進行挖礦。當時,Google Cloud 執行個體使用 Google Cloud 的異常偵測系統有警告客戶相關攻擊。

機器學習系統將會解決這些難題。隨著採用的技術持續發展,以及使用該技術的成功應用不斷增加,機器學習系統在安全性與準確性上受到的負面影響也會漸漸消弭。

機器學習的最新進展

STMicroelectronics 最近宣佈其合作夥伴 Cartesiam 在 STM32G4 產品上推出第一款機器學習應用。 Cartesiam 是機器學習 ST 合作夥伴計畫的成員之一。ST 推出的 STM32Cube.AI 可讓開發人員收集資料,然後在 PC 上的神經網路訓練框架中處理該資料,輕鬆地對神經網路進行訓練,以識別行走、跑步或游泳等特定活動。其輸出隨即會轉換成代碼,以便 STM32 MCU 識別這些活動。

圖 2:STMicroelectronics 的 SensorTile 評估板示意圖。(圖片來源:STMicroelectronics)

Cartesiam 的 NanoEdge AI 可在微控制器上執行學習階段。若工程師無法針對特定狀況建立預先訓練過的完善模型,但仍希望透過機器學習建立智慧型解決方案,則可轉用此解決方案。訓練階段會在 MCU 上執行,以瞭解裝置在預定環境內的正常行為,然後會在同一個 MCU 上執行推斷,以偵測並回報異常行為。

有了 NanoEdge AI,開發人員可輕鬆將本地 AI 訓練和分析能力整合到 C 程式碼 (已針對 STM32 MCU 進行最佳化)。在展示中,Cartesiam 顯示其機器學習資料庫如何使用 STM 的 SensorTile 模組,即 SensorTile 評估板 (圖 2),透過振動分析來學習 BLDC 馬達的行為,然後透過嵌入式 STM32L4 MCU 來偵測並回報異常情況。

此外,STMicroelectronics 的進階感測器,例如 LSM6DSOX iNEMO,也採用了機器學習核心。此核心結合有限狀態機 (FSM) 和進階數位功能,能夠從超低功率狀態轉換成高效能、高準確度的 AI 能力,可用於電池供電的 IoT、遊戲、穿戴式裝置以及消費性電子產品等。此產品支援典型的 OS 需求,可提供真實、虛擬和批量感測器,其中含有 9 KB RAM,可用於動態資料的批量處理。

雖然各式各樣的人工智慧和機器學習會繼續令人驚豔,但未來仍需在新應用、輸出優勢及安全維護能力的相輔相成下,才能持續推動其使用。

關於作者

Image of Carolyn Mathas

Carolyn Mathas 曾在 EDN、EE Times Designlines、Light Reading、Lightwave 及 Electronic Products 等刊物擔任編輯/作者,資歷超過 20 年以上。她也為眾多企業提供量身定做的內容與行銷服務。

More posts by Carolyn Mathas