產經情報

嵌入式系統部署AI應用加速開發週期

日期:2021-11-19

人工智慧(AI)起源於達特茅斯學院於1956年舉辦的夏季研討會。在該會議上,「人工智慧」一詞首次被正式提出。運算能力的技術突破推動了AI一輪又一輪的發展。近年來,隨著大數據的可用性提升,第三輪AI發展浪潮已經來臨。

2015年,基於深度學習的AI演算法在ImageNet競賽的影像辨識準確度首次超過人類,代表著AI發展突飛猛進。隨著電腦視覺研究的突破,深度學習已經在語音辨識、自然語言處理等不同研究領域都取得了巨大的成功。現在,AI已經在生活中的各面向展現出巨大潛力。

人工智慧的發展演進與主要概念,大致解釋如下:
‧ AI:任何能讓電腦類比人類行為的技術。
‧ 機器學習:人工智慧(AI)的子集。透過從資料中學習而不斷改進的演算法或方法論。
‧ 深度學習:機器學習(ML)的子集。透過使用類比人類大腦神經網路的多層結構,從大量資料中獲得有價值資訊的學習演算法。

AI生力軍,Deep Edge AI應運而生

由於運算能力的需求,目前AI技術主要應用於雲端場景。由於資料傳輸延遲等因素的限制,基於雲端的解決方案可能無法滿足部分使用者對資料安全性、系統回應能力、私密性、以及本地節點功耗的限制。在集中式AI解決方案中,嵌入式設備(智慧音箱、穿戴式裝置等)通常依賴雲端伺服器藉以實現AI功能,而在Deep Edge AI解決方案中,嵌入式設備本身即可在本地執行AI演算法,實現即時環境感測、人機互動、決策控制等功能。

將AI推理運算遷移到深度邊緣運算將帶來一些優勢,例如更好的系統回應能力、更周全的使用者資訊隱私保護(並非所有資料都需要傳輸到雲端)、以及降低連接成本和功耗。

根據ABI的研究結果,到2030年,Deep Edge AI裝置的全球出貨量將達到25億台。意法半導體(ST)注意到,日益成長的Deep Edge AI技術社群和生態系統專注於獨立、低功耗且經濟的嵌入式解決方案。ST在AI方面投入大量資源,協助開發人員在微控制器/微處理器(STM32系列)和感測器(動作MEMS、ToF等)嵌入式系統上快速部署AI應用。

為了加速開發週期,ST提供一系列的AI工具,針對STM32家族,及具備機器學習核心(機器學習核心;MLC)的動作MEMS感測器上所訓練的AI模型(STM32Cube.AI),能更方便地進行最佳化。AI已經在許多領域取得了令人矚目的成就。我們相信,愈來愈多的智慧終端裝置將會對人類生活產生更深遠且正面的影響。

透過生態系統快速部署AI應用

ST提供一個完整的硬體和軟體的生態系統,能快速、輕鬆地開發多種執行於感測器和微控制器上的Deep Edge AI演算法。

在MEMS感測器生態系統中,感測器上的MLC嵌入式引擎,能協助開發人員在邊緣裝置上實現如手勢辨識、動作辨識、異常檢測等等AI演算法。

因此,物聯網解決方案開發人員可以使用UNICO-GUI工具開發超低功耗應用,進行快速prototyping並且部署ST任一內嵌 MLC 的感測器。

基於原生低功耗感測器設計、進階AI事件偵測、喚醒邏輯和即時邊緣運算功能,感測器中的MLC極大地減少了系統資料傳輸量,降低了網路處理負擔。

如果開發人員決定在感測器上開發一個機器學習解決方案,則需要一套全新的方法來實現自己的應用。

開發機器學習演算法,起點是資料及分類的定義。遵循以下五個步驟,能夠在感測器中創建並執行AI應用。UNICO-GUI是一種圖形化使用者介面,支援包括決策樹產生等五個步驟。

為了方便開發人員快速在STM32上部署已訓練的AI模型,ST開發了一款簡單易用且高效的工具:STM32Cube.AI(亦稱X-CUBE-AI)。X-CUBE-AI可以分析並將已訓練的神經網路轉換為優化的C語言程式,並針對STM32系列自動進行測試。

為了展示不同AI應用如何在STM32上直接執行,並加速STM32嵌入式開發人員的研發、驗證和部署時程,ST提供許多AI應用以供參考。開發人員可以利用這些嵌入式AI應用套

裝軟體進行二次開發,快速實現自訂模型的部署。下列表格為ST製造的開發工具和嵌入式應用套裝軟體。

AI開發工具和嵌入式應用軟體

有STM32的地方就有Deep Edge AI。

STM32的所有MCU都支援AI模型的部署。對於運算能力較低的MCU,支援機器學習演算法。對於運算能力較高的MCU,更支援深度學習模型。