NVIDIA大幅提升台灣供應鏈知名度,愈來愈多台灣新創也赴美參與GTC盛會,包括GPU管理平台、大型語言模型(LLM) 服務、空間運算相關業者。主打AI軟體的新創,紛紛與伺服器業者、硬體大廠結盟,推出AI模型搭載伺服器或算力租賃的套餐服務,也彰顯NVIDIA掌握了基礎設施、平台到應用端的影響力。
提供LLM模型服務的APMIC表示,此次是二度參與GTC大會,並首度公開展示企業私有化AI解決方案「PrivAI」,基於NVIDIA NeMo端對端平台所打造,盼協助金融、國防、醫療等重視資料隱私的產業部署自家AI。
同時,APMIC宣布與正崴集團旗下的友崴超級運算,以及康斯特科技建立合作,推出AI軟體即享租賃模式。租賃友崴的NVIDIA H100AI伺服器,或在康斯特平台租賃GPU算力,就可使用內建的APMIC PrivAI軟體服務,無需再額外付費。
APMIC也透露,與正崴的合作不僅限於超算中心,更延伸至多個AI應用發展計畫。雙方將結合各自在軟硬體的優勢,合作開發企業專用AI模型、機器人語言模型和影像辨識系統。
主打GPU管理平台的數位無限軟體(Infinitix)表示,團隊首次參與GTC大會,攜手仁寶、茂綸等台廠參展,在兩業者的攤位展出GPU管理平台AI-Stack。數位無限先前已與仁寶達成戰略合作,合推搭載AI-Stack的GPU伺服器方案,提供企業「啟動即用」的AI推論服務。客戶購買仁寶指定型號的GPU伺服器,即可透過AI-Stack部署與運行LLM應用,省去編程設定。
數位無限執行長陳文裕強調,AI-Stack已應用於金融、半導體、醫療、製造等產業,並與數位發展部合作「產業軟體基盤暨數位服務躍升計畫」,建置AI算力池協助台灣新創加速應用落地。
另一方面,主打空間運算的新創HOMEE AI表示,此次已是二度參展,會中呈現空間智慧如何推動房地產、家居等產業變革,並發布多項AI新方案。
HOMEE AI整合空間理解、生成式AI、AI代理、高斯潑濺法、視覺語言模型等技術,將物理空間轉換為高擬真數位分身 (Digital Twin)環境,打造房地產、家居產業AI 解決方案,已獲知名房地產集團應用。
據了解,除了正式參展的業者,台灣也有不少軟體業人士自行赴GTC觀展。在社群平台上,可看到許多與會者爭相分享GTC第一手觀察。