根據外媒消息,OpenAI 正在與博通(Broadcom)、台積電合作,共同設計與製造首款支援 AI 運算的全新晶片,同時搭配現有的 AMD 與 NVIDIA 產品,滿足不斷成長的 AI 基礎設施需求。
據報,ChatGPT 開發商 OpenAI 為了推動 AI 業務發展,正在研究一系列晶片供應多元化與成本降低方案。原先 OpenAI 考慮全都親自動手,直接投入半導體製造業務,甚至不排除建立晶片製造工廠網路,建立起設計、製造與使用的一條龍方案,但由於成本高昂目前已暫時作罷,轉而專注於晶片設計工作,同時也找來台積電與博通共同合作。
消息人士透露,OpenAI 幾個月來一直與博通合作,打造首款專注於推理運算的人工智慧晶片;雖然說目前市場上,對於專注於 AI 模型訓練方面的晶片,其需求量依然比較大,但分析師預測,隨著越來越多人工智慧應用獲得部署,推理運算晶片的需求可能會有所超越。
Google 前工程師領導,合作博通借重經驗
據傳 OpenAI 與博通組建了一支約 20 人的晶片團隊,由曾在 Google 打造張量處理單元(TPU)的頂尖工程師領導。
博通過去曾協助 Google 母公司 Alphabet,在 TPU 製造過程中對晶片進行微調,並且支援部分晶片設計,藉此提高晶片的資料吞吐量,而這對於 AI 系統來說十分重要,畢竟未來會有數以萬計的晶片被串在一起進行協同工作。
此外,OpenAI 也透過博通取得台積電的製造產能,預計在 2026 年投入製造首款客製化設計的 AI 運算晶片;同時消息人士也指出,OpenAI 仍在判斷是否要為自行設計晶片,進一步投入發展或收購相關廠商,並考慮跟更多合作夥伴有所往來。
尋找 NVIDIA 替代方案,開發自研晶片降成本
外媒表示,OpenAI 決定投入晶片產業,協助 AI 發展的新策略,其作法跟 Google、微軟、Amazon 與 Meta 等公司相同,皆是藉由結合內外部的方式,鞏固晶片供應並管理成本。
目前 NVIDIA GPU 佔了 AI 運算市場 80% 以上市佔率,但由於產品短缺與成本上升,導致微軟、Meta 與 OpenAI 等主要客戶,開始尋找各種替代方案。OpenAI 預期借助微軟 Azure 雲端取得 AMD 晶片運算能力,使 AMD 的 MI300X 晶片得以在 NVIDIA 主導的 AI 運算市場中分一杯羹。
由於訓練 AI 模型和運作 ChatGPT 等服務的成本極高,消息人士透露 OpenAI 今年預計虧損 50 億美元,但營收卻僅有 37 億美元;發展 AI 運算的成本包含處理大型資料集,以及開發模型所需的硬體、電力和雲端服務費用,這些都是 OpenAI 目前最大宗的支出,進而促使該公司努力優化硬體利用率,並且尋找多元化的晶片供應商。
消息人士補充指出,OpenAI 雖然想發展自家的 AI 晶片,但對於從 NVIDIA 挖角人才,卻始終抱持著謹慎態度,因為該公司仍然希望與 NVIDIA 保持良好關係,特別是在使用新一代 Blackwell 晶片方面。