Chat GPT在過去幾個月引發話題，也讓人工智慧(AI)的討論聚焦在生成式AI(Generative AI)上。隨著相關技術及應用持續發展，生成式人工智慧正在將Transformer 模型和大型語言模型的力量帶入幾乎每個產業。如今觸角已伸到接觸邊緣、機器人和物流系統等領域：瑕疵檢測、即時資產跟蹤、自主規劃和導航、人機互動等等。

因應市場發展及需求，NVIDIA近日宣佈NVIDIA Jetson平台上邊緣人工智慧和機器人技術兩個框架的重大擴展。目前NVIDIA Isaac ROS機器人框架已經正式推出，接下來將推出 Jetson 上 NVIDIA Metropolis 的擴充。

為了加速人工智慧應用在邊緣的開發和部署，NVIDIA還為Jetson開發人員創建了一個生成式人工智慧練習場(Generative AI Playground)，供開發人員使用最新的開源生成式人工智慧模型。據了解，其AI及Jetson企業用戶包括Amazon Web Services、思科、強鹿公司、美敦力、西門子等。

根據ABI Research的資料，生成式人工智慧在2033年將為全球製造業新增105億美元的收入。生成式人工智慧顯著地提高了人類語言的易用性，以提示和進行模型更改。 這些人工智慧模型可以更靈活地檢測、分割、追蹤、搜尋，甚至重新程式設計任何觸手可及的東西。 這些特性有助於超越傳統的基於卷積神經網路(CNN)的模型。

在邊緣開發生成式人工智慧

NVIDIA Jetson生成式人工智慧練習場為開發人員提供了最佳化的工具和教學，用於部署開源大語言模型(LLM)、擴散模型以互動方式生成圖像、視覺語言模型(VLM)和結合了視覺人工智慧和自然語言處理視覺變換器(ViT)提供對場景的全面理解。

NVIDIA表示，開發人員還可以使用 NVIDIA TAO 工具套件為邊緣創建高效、準確的人工智慧模型。 TAO 提供了一個低程式碼介面來微調和最佳化視覺人工智慧模型，包括視覺變換器和視覺基礎模型。現在，開發人員可以自訂和微調像是 NVIDIA NV-DINOv2 等基礎模型或 OpenCLIP 等公開的模型，從而用很少的資料建立高度準確的視覺人工智慧模型。 TAO現在也另外包括了 VisualChangeNet，這是一個基於transformer的瑕疵檢測模型。