產經情報

CSP往邊緣AI擴大發展 帶動NB DRAM 2025年平均搭載容量

日期:2024-07-12

待2024年CSP逐步完成建置一定數量AI訓練用server基礎設施後,2025年將更積極從雲端往邊緣AI拓展…

TrendForce觀察,2024年大型雲端CSP,如微軟(Microsoft)、Google、Meta、AWS等廠商,將仍為採購高階主打訓練用AI server的主力客群,以作為大型語言模型(LLM)及AI建模基礎。待2024年CSP逐步完成建置一定數量AI訓練用server基礎設施後,2025年將更積極從雲端往邊緣AI拓展,包含發展較為小型LLM模型,以及建置邊緣AI server,促使企業客戶在各製造、金融、醫療、商務等各領域應用落地。

此外,因AI PC或NB在電腦設備基本架構組成與AI server較為相近,具有一定程度運算能力、可運作較小型LLM及生成式人工智慧(GenAI)等運用,可望成為CSP橋接雲端AI基礎設施及邊緣AI小型訓練或推論應用的最後一哩路。

觀察近期晶片廠在AI PC的佈局,英特爾(Intel)的Lunar Lake及AMD的Strix Point都是在今年6月COMPUTEX首次發佈的SoC,並皆符合AI PC標準,因此儘管Lunar Lake及Strix Point所配套的PC機種分別預計於今年第四季及今年第三季方上市,使PC OEM會場工作人員僅以口頭說明該兩類機種的規格表現,惟該兩款SoC及所搭載的PC機種仍為活動中市場主要關注焦點。
在品牌端,ASUS及Acer繼5月推出搭載Qualcomm Snapdragon X Elite的機種後,也在COMPUTEX期間推出搭載Lunar Lake、Strix Point、Snapdragon X Elite的機種,MSI僅推出搭載Lunar Lake、Strix Point;新款AI PC建議售價落於1,399~1,899美元區間。

TrendForce認為,2025年隨著AI應用完善、能處理複雜任務、提供更好的用戶體驗並提高生產力,將帶動消費者對於更智慧、更高效的終端設備需求迅速成長,AI NB滲透率將快速成長至20.4%的水準,預期AI NB浪潮亦將帶動DRAM Content成長。

TrendForce預估,NB DRAM平均搭載容量將自2023年的10.5GB年增12%至2024年的11.8GB。展望2025年,隨AI NB滲透率自2024年的1%提升至2025年的20.4%,且AI NB皆搭載16GB以上DRAM,將至少帶動整體平均搭載容量將成長0.8GB,增幅至少為7%。

TrendForce認為,AI NB除了帶動NB DRAM平均搭載容量提升外,亦將帶動省電、高頻寬記憶體的需求,在這情況下,相較於DDR,LPDDR更能凸顯其優勢,因而加速LPDDR替代DDR的趨勢。對原本追求可擴展性的DDR、SO-DIMM方案而言,轉換至同屬模組的LPDDR、LPCAMM方案亦為LPDDR on board之外的選項之一。