並非每一種機器學習和推論任務都需要先進的記憶體技術，經市場驗證的傳統記憶體反而可以因應邊緣AI應用，而這種分散式AI可能是5G真正需要的…
隨著市場對人工智慧(AI)的炒作逐漸退燒，以及該技術面臨新的工程挑戰，與記憶體相關的需求漸成為焦點──並非每一種機器學習和推論任務都需要先進的記憶體技術，經市場驗證的傳統記憶體反而可以因應邊緣AI應用，而這種分散式AI可能是5G真正需要的。
不過，基本的推論運作已經變得更複雜；整體而言，記憶體預期將在推論方面發揮更大的作用。市場研究機構TECHnalysis Research總裁暨首席分析師Bob O’Donnell認為，AI是實現5G願景不可或缺，只有兩者結合才能實現新的應用。
O’Donnell指出：「諷刺的是，所有人都認為它們是各自獨立的物種，5G是一回事、邊緣是另一回事，而AI又是另外一回事。需要將這些東西結合起來，才能讓它們任何一個都能真正發揮作用。」
隨著邊緣處理器演進，以及LPDDR等類型記憶體被運用在邊緣裝置處理一般AI任務，分散式AI已經在一定程度上獲得實證。「房間裡的攝影機可以進行非常簡單的AI處理，偵測房間內的人數，進而調節冷暖空調；」O’Donnell表示，這看似簡單，但這些任務可以在一個配備了適當運算/記憶體能力的建築群中進行本地處理，無需將資料在雲端與裝置間來回傳送。
O’Donnell補充，還有一種折衷方案，即邊緣裝置在本地處理資料，同時具備足夠的智慧，知道何時將檔案發送到資料中心進行「深度處理」，結果之一是將經過改善的演算法發送回邊緣「這是一種持續演進的循環，」他表示，「也是事情開始變得非常有趣的地方。」
根據O’Donnel預測，分散式AI應用專屬記憶體會相對較低階，這類記憶體適合多種應用，像是分散式邊緣裝置。「我想LPDDR類型記憶體是最合乎邏輯；」即使是低功耗DDR也能獲得提升，超越在智慧型手機、汽車和各種邊緣端點使用的典型元件類別。
在最近一個有關將記憶體內處理(PIM)技術推向主流的新訊息中，三星(Samsung)就指出，該技術最終可以被運用於其他類型的記憶體以支援AI工作負載，其中可能包括LPDDR5，用於將AI帶到各種邊緣端點裝置，不需要連結資料中心。
三星展示了將LPDDR5-PIM用於語音辨識、翻譯和聊天機器人等應用時，其性能提高了一倍以上，功耗則降低超過60%。