如何辨認哪些圖像是由 AI 生成的一直是項待解難題，因此 Google 宣布推出新工具「SynthID 」，為圖像加上人類肉眼不可見，但訓練過的電腦可辨識的數位浮水印，來阻擋造假生成圖的散播。

隨著假生成圖在網路上廣泛流竄，在今年 5 月份一張五角大廈爆炸的生成圖甚至影響了股市，許多公司紛紛透過加上可看見的浮水印或在 metadata 中標註圖片來源，來顯示圖像為 AI 生成。

但這些方式易被修改，像是翻轉圖像即有機會避免被發現是 AI 所生成，反觀 Google 的 SynthID 浮水印為不可竄改，若圖像被大幅的更動，也不會影響到浮水印的功能。

目前，Google 只開放這項服務給使用雲端服務的付費顧客，且可被加上浮水印的圖像僅限 Google 圖像生成工具 Imagen 所產生的，公司也強調這項工具還在實驗階段。

AI 讓圖像的真假難辨，但加浮水印是有效的解方嗎？

今年 7 月白宮召集了各大科技領袖舉行 AI 會議，與會的公司（包括Google 和 OpenAI 等）承諾會開發出浮水印工具，讓 AI 生成圖更容易辨識。

其中，微軟集結了科技和媒體公司，要發展 AI 生成圖加上浮水印的一套標準，同時也在研發新方法追蹤 AI 生成圖；OpenAI 的 Dall-E 則是加上可見的浮水印。

不過，儘管科技巨頭研發出各種浮水印的工具，由開源 AI 所生成的圖像仍有可能難以辨識，且也會有人開始研究如何繞過這些新浮水印工具，就如同資安公司和駭客連續的攻防戰，因此 Google 不會公開浮水印工具背後的技術。

詳細內文請參考網址...