DeepMind為AI生成圖像新增浮水印技術SynthID，讓一般人更容易辨識圖片是否是AI創作的

為了防止人工智慧（AI）生成的錯誤資訊的傳播和濫用，也為了履行自己的承諾和義務。先前的Google年度雲端會議上，該公司發佈了一個名為SynthID的新工具：嵌入不可見的永久性水印，以表明圖像是由人工智慧建立的。

據悉，這項名為SynthID的技術將浮水印直接嵌入到Imagen生成的圖片中，Imagen是Google最新的人工智慧圖像生成器之一。之後，無論裁剪、新增過濾器或改變顏色以及使用各種失真壓縮方案，被新增到圖片中的浮水印都將無法去除，以便於人們區分真實和虛假的內容。

當然，SynthID工具也可以掃描傳入的圖片，從而評估圖片是由Imagen生成的可能性。這項功能由人工智慧實驗室Google DeepMind的技術提供支援。

不過，SynthID並不能保證水印可以萬無一失地抵禦極端圖片處理，但它提供了一種有用的技術方法，使人們能夠負責任地使用人工智慧生成的內容。研究團隊表示之後可能還會面向音訊、影片和文字等模態推出類似的工具。

Google聲明稱：「雖然這項技術並不完美，但我們的內部測試表明，它對許多常見的圖片處理都是精準的。」該公司表示，目前SynthID只能在Google雲平台上使用，主要針對使用Vertex AI平台和Imagen圖像生成器的客戶，但SynthID技術將繼續發展下去，並可能擴展到Google其他產品或第三方產品。

Google DeepMind首席執行長Demis Hassabis表示，SynthID是為瞭解決深度偽造等問題而開發的，在2024年美國即將舉行大選的背景下，建立人工智慧圖像識別系統是非常重要的。

隨著深度偽造和編輯過的圖像、影片變得越來越逼真，科技公司正在爭先恐後地尋找一種可靠的方式來識別和標記被操縱的內容。

在上個月底，美國白宮發佈公告稱，已與大型科技公司達成協議，為人工智慧的開發設定更多防護措施，包括開發浮水印系統等，來控制誤導資訊的傳播和其他風險。白宮表示，亞馬遜、Anthropic、Google、Inflection、Meta、微軟和OpenAI七家主要人工智慧公司做出自願承諾，以公眾安全、系統網路安全和獲取社會信任作為人工智慧開發的三大原則。

在SynthID發佈之前，Truepic和Reality Defender等公司也在試圖尋找解決方案，這也說明了這項工作的潛在風險和必要性。