產經情報

Meta改組AI部門,已著手訓練Llama 3

日期:2024-01-23

《The Verge》報導,為了使AI成為公司發展核心,Meta近日大舉改組旗下AI研發部門Facebook AI Research(FAIR)與產品部門整併,並已開始訓練下一代大型語言模型Llama 3,也可能將之開源。

報導指出,Meta本周改組FAIR部門,將其與產品進一步整合,以便AI成為驅動Meta產品開發的核心引擎。在此變動中,FAIR將從Reality Labs變成產品部門的一部份,主管Joelle Pineau及首席科學家Yann LeCun也將由技術長Andrew Bosworth轄下改向產品主管Chris Cox報告。

《The Verge》取得Cox的內部員工公開信指出,這次變動將使AI研究成為公司及產品的關鍵元素,將FAIR及生成式AI(GenAI)整合可讓公司有一致化的AI研究布局及藍圖,而Llama也將成為Meta公司向AGI(artificial general intelligence,通用人工智慧)前進的主要載具,以及更具效率的開發流程,以便研發通過法律、政策及品牌嚴格檢視的AI技術。

這次改組也反映Meta執行長祖克柏(Mark Zuckerberg)接受《The Verge》專訪時,表達公司對AI更大的企圖及投資意願。祖克柏表示為了開發出想要的產品,必須建立AGI。AGI是指在各種領域和任務中,表現出與人類相媲美甚至超越人類的智慧行為的AI系統。他指出,Meta的企圖是打造優異(stat of art),最終成為業界第一的模型。

為此,祖克柏透露,Meta正在開發下一代LLM Llama 3,這模型未來將會能自己撰寫程式碼,也將具有進階推理及規畫的能力。他並承諾,未來也會考慮開源Llama 3。

為了訓練AI,Meta將繼續採購GPU打造基礎架構。祖克柏指出,計畫今年底前公司將有超過34萬顆Nvidia H100 GPU,而結合其他晶片,Meta預計將達到60萬H100的GPU運算容量。

OpenAI執行長Sam Altman多次表達實現AGI的企圖,而Google也有類似計畫。Google去年4月整併Alphabet子公司DeepMind及Google研究院Google Brain部門的AI研發人力,成為新事業群Google DeepMind。新DeepMind計畫包括開發具進階推理的Google AI模型,如Gemini Ultra,也會是負責任的AI,能遵循AI倫理及確保人類福祉。