產經情報

未來 75% 運算將走向邊緣!邊緣 AI 應聲崛起,原來還有分厚薄?

日期:2023-12-13

資訊時代人們專注於雲端帶來的方便,或是利用 AI 創造變革。但享受科技的同時,我們往往忽略雲端設備所帶來的間接影響──巨量的能源消耗,以及產生的溫室氣體。

Google、Meta、蘋果和亞馬遜等大型科技公司使用的「超大規模」資料中心,每年平均消耗 20 至 100 兆瓦的電力,這些電力足以為多達 37,000 個家庭供電。隨著資料中心能源需求的成長,預計到 2030 年,資料中心佔全球總電力消耗將從 3% 躍升至 4%,企業必須尋找替代方案。

為了環境永續,「邊緣 AI」概念正在興起

為了環境的永續發展,一些公司開始推廣「邊緣 AI」的概念。所謂「邊緣 AI」的建置,不是在某個大型資料中心部屬小規模的電腦,而是將部分能源需求從雲端轉移出來,在現場、工廠或零售店建置本地運算的設備。

大多數邊緣設備的功耗遠低於資料中心或集中式運算設備,本地化處理方法也代表資料在更靠近生成或需要的地方進行處理,進而減少延遲並節省能源。

有哪些企業正在布局邊緣 AI?

SiMa.ai 是一間專門提供邊緣 AI 服務的新創公司,生產自己的拖放式無代碼 AI 應用軟體和 AI 邊緣設備晶片。在 2023 年 9 月推出了 Palette Edgematic 的服務。Palette Edgematic 提供無程式碼的視覺化程式設計工具,並且在由台積電製造的 MLSoC 晶片上運行程式。Palette 核心軟體可以自動產生程式碼,並將其部署到可遠端存取的邊緣 ML 用戶端裝置,讓 ML 邊緣開發變得非常簡單。

聯想(Lenovo)除了製造筆電和 PC 之外,在 2023 年 9 月推出全新 TruScale for Edge 和 AI 服務。全新的旗艦邊緣優化伺服器 ThinkEdge SE455 V3 非常適合大型且要求較高的 Edge-AI 和電信工作負載,具有一流的性能和內建可持續性的新功能。根據聯想的估算,未來有 75% 的運算將會走向邊緣。

詳細內文請參考網址...