產經情報

OpenAI將標記DALL·E 3輸出圖像為AI生成內容

日期:2024-02-15

在Meta之後,OpenAI也公布標記人工智慧生成圖片的措施。OpenAI採用C2PA標準,在DALL·E 3輸出中加上後設資料,讓使用者更容易辨識由人工智慧所生成的圖片。C2PA是一種開放技術標準,讓內容發布者、企業和其他組織在媒體嵌入後設資料,以驗證其來源和相關資訊,C2PA並非僅適用於人工智慧生成的圖像,相同標準已經被相機製造商、新聞機構採用,以證明其媒體內容和來源。

OpenAI會在網頁版和API使用DALL·E 3模型生成的圖像中加入C2PA後設資料,這項變更將會在2月12日向所有行動裝置用戶推出,人們可以使用Content Credentials Verify等網站來檢查圖像是否透過OpenAI的工具,並由底層DALL·E 3所產生。

官方提到,C2PA後設資料並不能一勞永逸地解決來源問題,因為後設資料容易被有意或是無意地移除。目前社交媒體平臺在上傳圖像時也都會刪除後設資料,因此缺少後設資料的圖像,可能是也可能不是由ChatGPT或是OpenAI API所產生。

影像加上C2PA後設資料,會些微影響圖像大小,像是透過API所生成的PNG圖片,原本3.1 MB的大小會微幅增加至3.2 MB,增幅約為3%,由API生成的287k WebP圖檔,則會增加5%至302k,而原本透過ChatGPT生成287k的WebP圖檔,會在添加C2PA後設資料後變為381k,檔案大小增加32%。官方提到,這些增加對延遲的影響可忽略不計,而且也不會影響圖像生成的品質。

嵌入到生成圖像的後設資料,在ChatGPT與OpenAI API部分略有不同,透過API生成的圖像會包含一個簽章,以表明由底層DALL·E 3模型所產生,而透過ChatGPT生成時,會包含一個附加清單,記載內容由ChatGPT創建以呈現雙重來源,初始後設資料清單顯示圖像使用DALL·E 3建立,而第二個後設資料清單顯示該影像是在ChatGPT介面生成。

在生成圖片中加上後設資料,能夠讓用戶更容易辨識圖片來源,進一步提高數位資訊可信度。目前只有ChatGPT或是OpenAI DALL·E 3模型API服務產生的圖像才會擁有C2PA後設資料,文字和語音輸出則還不會包含來源相關後設資料。