產經情報

Arm 發表 IoT 專用 NPU「Ethos-U85」,可支援 Transformer 實現 AI 推理

日期:2024-05-14

Arm 今天發表了專用於邊緣 AI 運算的第三代 NPU「Arm Ethos-U85」。眾所皆知,NPU 是專為神經網路設計的處理器,Ethos-U85 也是專門為內嵌 AI 的工廠自動化設備,或是智慧家庭攝影機等物聯網裝置所設計的架構,可以支援 TensorFlow Lie、PyTorch 等 AI 框架。

Arm 表示與前代產品相比,Ethos-U85 性能提升了4 倍、能源效率提高了20%,同時 MAC 單元從 128 個擴展到了2048 個(1GHz 時脈可達 4 TOPs)。

當然,除了 TensorFlow Lie、PyTorch 之外,Ethos-U85 更重要的是支援了 Transformer 來實現 AI 推理,可以讓這些智慧鏡頭具備更強的影像理解、分析,以及分類、物件偵測能力。

Ethos-U85 不只可以用在輕量級 IoT 環境,也能支援高效能嵌入式系統跟 Armv9 Cortex-A CPU 配合使用,用在工業機器視覺、可穿戴設備和消費機器人也沒問題。

為了進一步深耕 IoT 領域,Arm 也同時推出了物聯網參考設計平台「Corstone-320」,可以直接將 Cortex-M 處理器、Mali-C55 影像訊號處理器跟 Ethos-U85 NPU 結合,由於能源效率表現篇佳,不只適合為智慧家庭,也適合部署在電力供給受限的連網鏡頭。