在GTC 2025大會中,Nvidia執行長黃仁勳發表Blackwell Ultra,鎖定AI工廠的AI運算平臺,以加速AI推理、代理型AI及物理型AI(Physical AI),其中的GB300 NVL72要比GB 200 NVL72的AI效能高出1.5倍,與Hooper相比則提高50倍。此外,該公司也釋出首個開放的人形機器人基礎模型Isaac GR00T N1,強化人形機器人的推理能力。
黃仁勳在主題演說中指出,AI技術正從先前的認知AI到生成式AI,往代理AI及物理AI發展,愈往後發展,AI具備更高的智能,例如物理AI技術的發展,讓AI能更好的理解實體環境的3D世界,同時驅動AI機器人的發展,每個階段的發展都會帶來商機,但是愈往後發展,就需要解決三個基本的問題,如何獲得資料、如何在沒有人類限制下訓練模型,以及AI推理能力需要更大的擴展(Scaling)訓練,需要更大的運算,超過一年前相同時間所預期的100倍。
鑑於更複雜的AI推理能力所需的運算效能,Nvidia發表Blackwell Ultra,用來加強訓練及測試時間擴展推理(Test-time scaling inference),Blackwell Ultra是基於先前的Blackwell架構,但採用效能更高的GB300 NVL72及HGX B300 NVL16。
其中GB300 NVL72採NVlink連接72個Blackwell Ultra GPU及36個Grace CPU,GB300 NVL72的AI效能比GB 200 NVL72高出1.5倍;而HGX B300 NVL16則比Hopper,運算效能提升7倍,而在大型語言模型的推理速度則提升11倍,記憶體也增加4倍,以因應較複雜的運算負載需要。
「AI已取得巨大的發展,推理及代理AI需要更多的運算效能,Blackwell Ultra可以高效地完成預訓練、後訓練、推理AI的推論」,黃仁勳說。
相較於傳統的LLM,產生的Token較少,對問題的回應容易出錯,推理模型能夠產生更多的Token,從而提高回應的準確性,但相對地也需要更大的運算效能,因此Nvidia強調Blackwell Ultra的效能有助於AI的擴展推理能力,可將複雜的問題拆解成多個步驟,探索不同的解決方式,來提高回應的品質。
除了有助於AI的推理能力發展,也有助於物理AI技術發展,像是即時生成擬真的影像,以大規模的訓練機器人、自駕車,Nvidia也在GTC中宣布將和美國的GM汽車在自駕車技術進行合作。
...詳細內文請參考網址