產經情報

OpenAI 團隊真心話:ChatGPT 很酷,但還很不成熟

日期:2023-03-15

OpenAI 於 2022 年 11 月底悄悄推出 ChatGPT 時,幾乎不抱任何期望。果然 OpenAI 沒人預料到會引發病毒式巨大熱潮,那時起一直在瘋狂追趕趨勢,並試圖獲利。

OpenAI 政策部門 Sandhini Agarwal 說,ChatGPT 最初只是「研究預覽版」:兩年前技術更成熟版的預告,更重要的是,透過大眾回饋嘗試糾正缺陷。「我們不想過分宣傳,宣稱是重大的根本性進步。」有參與 ChatGPT 研發的研究員 Liam Fedus 說。

為了深入了解這款大紅聊天機器人如何開發,OpenAI 發表後又如何更新,以及開發者如何看待自己產品如此成功,《愛范兒》採訪了四位幫助 ChatGPT 誕生的研究員。

除了 Agarwal 和 Fedus,還有採訪 OpenAI 聯合創辦人 John Schulman 和校準團隊負責人 Jan Leike。校準團隊致力解決人工智慧如何達成使用者想要的行為(而無其他行為)問題。雖感覺 OpenAI 仍對研究預覽版的成功感到困惑,但還是抓緊機會推動,觀察數百萬使用者如何使用 ChatGPT 並盡力修復最大的問題。

去年 11 月以來,OpenAI 已多次更新 ChatGPT,也使用對抗訓練技術阻止 ChatGPT 遭使用者誘導產生不良行為(簡稱「越獄」),讓多個聊天機器人互對抗:一機器人扮演對手,產生文本攻擊另一機器人,強迫違反約束性並產生不想要的回應,攻擊成功數據會加入 ChatGPT 訓練庫,希望 ChatGPT 學習忽略這些攻擊。

OpenAI 並與微軟簽訂數十億美元交易,並與全球管理諮詢公司貝恩組成聯盟,後者計劃在客戶(如可口可樂)行銷使用 OpenAI 生成性 AI 模型。OpenAI 以外,ChatGPT 引發的熱潮帶動大規模語言模型受注目,全球公司和投資者都跳了下來。

僅三個月就出現大量炒作專案,ChatGPT 的來源是什麼?OpenAI 又是因什麼理由確定 ChatGPT 準備好公開了?下一步又是什麼?以下節錄訪談重點,希望讓外界更了解 ChatGPT 成功的原因。


詳細內文請參考網址...