你能看出圖像是 AI 生成的還是真實的嗎？

隨著生成式人工智慧的迅速發展，人們越來越關注 AI 生成內容帶來的潛在風險。例如，人們可能會有意或無意地傳播 AI 生成的虛假資訊。特別是在圖像生成領域，分辨 AI 生成的圖像和真實圖像顯得尤為重要。

一些研究嘗試用「加浮水印」的方法來分辨 AI 生成的內容。ICML 2023 傑出論文《A Watermark for Large Language Models》就針對文本生成提出為模型的輸出加上浮水印。

現在，Google DeepMind 宣布針對圖像生成推出一種加上浮水印的工具 SynthID，以辨識 AI 產生的圖像，目前 SynthID Beta 版已經上線。Google CEO Sundar Pichai 和 Google DeepMind CEO 都轉推介紹了 SynthID 工具。

SynthID 目前可以為Google的文生圖模型 Imagen 所產生的的圖像加上浮水印，並且在視覺上難以察覺。如下圖所示，有無浮水印的圖像看起來沒有差別：

透過掃描圖像中的數位浮水印，SynthID 可以評估圖像是由 Imagen 生成的可能性。

SynthID 不會影響圖像品質，並且即使在添加濾鏡、更改顏色以及使用各種失真壓縮方案（例如 JPEG）進行保存等修改之後，浮水印仍然可以被檢測到。

在 SynthID 使用兩種深度學習模型（用於浮水印和辨識），這兩種模型已在多個圖像集上一起進行了訓練，並針對一系列目標進行了最佳化。

目前，部分使用者可以在Google的 Vertex AI 平臺上對 Imagen 使用 SynthID 工具（Beta 版）。

值得注意的是，SynthID 並不能保證浮水印可以萬無一失地抵禦極端影像處理，但它提供了一種有前途的技術方法，使人們能夠負責任地使用人工智慧產生的內容。研究團隊表示之後可能還會面向音訊、影片和文本等模態推出類似的工具。

資料來鴻：