「邊緣人工智慧」(Edge AI)是當前晶片產業的關鍵字。就在日前於美國德州奧斯汀(Austin, TX)舉行的2024年北美嵌入式電子與工業電腦應用展(Embedded World North America)上,許多討論都離不開這個主題。《EE Times》編輯有幸在展會現場採訪到市場研究公司Counterpoint Research負責人工智慧(AI)和物聯網(IoT)的研究總監Mohit Agrawal,暢談他對於AI關鍵發展趨勢和機會的看法。
在參加《Embedded World 2024》之前,Agrawal才剛在矽谷舉行的Counterpoint AI高峰會上發表主題演講。他在演講中指出,針對訓練到推論等AI基礎設施的投資已有數十億到數兆美元了,但他質疑我們是否正處於AI泡沫之中?現在,人們也正開始提出關於何時「變現」(monetization)及其嚴重性等問題。
從Agrawal接受訪問的這段影片中,他以物聯網(IoT)的主要趨勢為背景加以說明。他表示:「目前在AI領域中,錢都流向了基礎建設與模型,但尚未進入應用中。不過,嵌入式應用仍有帶來營收的潛力。」
Agrawal也強調進入蜂巢式IoT (cellular IoT)模組的運算能力及其如何地大幅增加。他表示:「我們預計在未來七年內,搭載神經網路處理器(NPU)模組的數量將是目前銷售數量的31倍,並將因此點燃很多應用。」
Agrawal堅稱,Edge AI將是未來的發展方向,但它取決於連線性、智慧性與安全性的成長。他特別談到eSIM和iSIM驅動連線性,進而驅動邊緣智慧。以「裝置」(device)的角度來看,未來將有三個關鍵驅動因素:智慧型手機、個人電腦(PC)和汽車。
根據Counterpoint的最新《AI模組追蹤與預測》(AI Module Tracker and Forecast)報告,隨著AI技術的不斷進步,到2030年,嵌入AI的蜂巢式模組市場將佔所有IoT模組出貨量的25%,較2023年的6%更大幅增加,CAGR高達35%。
該研究報告指出,在汽車產業,數位座艙的出現將大幅推動AI嵌入式蜂巢模組的導入。以AI驅動的虛擬助理可以透過回應語音指令、管理導航,以及控制車載娛樂系統(如音樂和視訊),提升駕駛體驗。
而在銷售點情報管理系統(POS)和零售系統中,具備AI功能模組的智慧型顯示器也逐漸被採用。隨著人臉偵測和手勢辨識等AI功能的發展,低階和高階的AI蜂巢式模組也被整合在一起,輔助客戶行為分析、庫存管理和詐欺偵測等應用。
未來,配備AI的路由器可作為中央樞紐,管理智慧家庭裝置,例如燈光、恆溫器和安全系統。不過,這些搭載AI路由器的採用率將相當有限。
Counterpoint的研究表示,除了這些應用之外,AI嵌入式模組在無人機、強固型手持裝置、機器人、數位看板、安全攝影機等方面的應用也會越來越多。該研究公司補充:「我們預計AI嵌入式模組將在無人機和強固型手持裝置中獲得最廣泛的採用,不過數量上仍屬於利基型(小眾)產品。同時,到2030年,汽車和POS產業預計將對整體AI嵌入式蜂巢模組的出貨量帶來最多貢獻。」