去年底 ChatGPT 問世，不到三個月就累積超過一億名活躍用戶，從此它成為許多人工作與生活的好夥伴，翻譯文件、整理資料要靠它，就連規劃一週菜單、訂定減重計畫也要問它。

看見人們凡事問 ChatGPT，哈佛醫學院主要教學醫院之一的布萊根婦女醫院（Brigham and Women’s Hospital ）研究人員便以此進行研究，請它針對多種癌症提供符合美國國家癌症資訊網（National Comprehensive Cancer Network，簡稱 NCCN）的治療建議，並將實驗結果發表在美國醫學雜誌《JAMA Oncology》上，結果顯示——ChatGPT 生成的建議摻雜著許多錯誤資訊。

ChatGPT 應用案例「癌症治療」似乎不給力，正確率不到 7 成引發擔憂

研究人員發現，雖然 ChatGPT 的生成內容有約 98% 至少包含一項符合 NCCN 提供的治療方案，但仍有超過 3 成的內容含有錯誤的資訊。此外，還有 12% 的生成內容來自 ChatGPT 產生的「幻覺」（hallucination），意即與癌症治療無關的虛假訊息。

參與研究的腫瘤學家 Danielle Bitterman 說：「ChatGPT 生成的內容雖然混合正確和錯誤的資訊，但它常以非常肯定的口吻表達、看似非常有理，即使由專家來看，要辨識建議的真偽都有一定的難度。」

這個研究回應了反對積極開發生成式 AI 技術人士的擔憂，其中包括 Elon Musk。他們認為，若沒有設置適當的防護措施，先進的 AI 技術將成為迅速傳遞錯誤訊息的可怕工具。


詳細內文請參考網址...