據CNET報導，圖片分享網站Instagram上出現一段Facebook首席執行長馬克·祖克伯（Mark Zuckerberg）就大數據的觀點發表一段簡短的演講，但事實上，祖克伯從來沒有說過這些話。這段影片是透過「深度偽造」（Deepfake）技術製作的。
影片中的祖克伯稱：「試想一下：一個人完全控制著數十億人被盜的數據，掌握著他們所有的秘密、生活和未來。這都要歸咎於Spectre漏洞。它讓我明白，誰控制了數據，誰就控制了未來。」
Oh my god. Artists uploaded a deep fake of Mark Zuckerberg to Instagram, saying he's in control of billions of people's stolen data and ready to control the future. Facebook previously said it would not delete similar videos under its policies. We'll see https://t.co/ufwV7zMyed pic.twitter.com/CBfVtGoaQd
— Joseph Cox （@josephfcox） 2019年6月11日
事實上，祖克伯從來沒有說過這些話。這段影片是透過「深度偽造」（Deepfake）技術製作的，它利用人工智慧（AI）創建影片，並偽造目標沒有說過的話，這突顯出社群網路在管理受操縱內容方面面臨的挑戰。
祖克伯的這段假影片也可能是對Facebook的一次挑戰，此前該公司拒絕刪除美國眾議院議長南希·裴洛西（Nancy Pelosi）的假影片。Facebook宣稱，該公司不會刪除假新聞，但會減少其在網站上的影響力，並顯示來自事實核查人員的訊息。
Instagram發言人稱：「我們將像對待Instagram上所有錯誤訊息一樣對待這些內容。如果第三方事實核查人員將其標記為假影片，我們將從Instagram的推薦頁面（如Explore和hashtag頁面）過濾它。」
事實核查機構Lead Stories稱這段影片為「藝術」，並在一篇文章中表示，將這段影片打上諷刺的標籤，這不會損害影片的傳播。使用者將看到警告標籤，說明它不是真實的。
藝術家比爾·博斯特斯（Bill Poster）、丹尼爾·豪維（Daniel Howe）與Canny廣告公司合作製作了這段影片。他們在Instagram上的文章中稱，這段影片是使用CannyAI的影片對話替代（VDR）技術創建的。
創作者們稱，這段影片使用了祖克伯2017年關於俄羅斯干預美國大選的影片片段。影片的右側有哥倫比亞廣播公司（CBS）標誌，標籤上寫著「祖克伯：我們正在提高廣告透明度。」CBS發言人已經表示，該公司要求Facebook「撤下這一未經授權的假冒CBSN商標」。
Canny公司還曾與博斯特斯合作，製作了唐納·川普（Donald Trump）總統和金·卡戴珊（Kim Kardashian）等人的假影片。祖克伯的假影片是四天前發布的，博斯特斯沒有立即回復置評請求。
這已經不是有關祖克伯的第一個虛假影片了。早在2018年，電影製作人安德魯·歐雷克（Andrew Oleck）就曾在Facebook上發布了一段影片，影片中似乎是祖克伯在說他要刪除社群網路，這讓許多使用者誤以為是真的。
與此同時，美國議員們對在2020年美國總統大選中使用深度造假技術感到擔憂。美國眾議院情報委員會計劃於週四就被操縱媒體和「深度造假」問題舉行聽證會。
- 本文授權轉載自網易科技
所以，還是要回到原有問題：社群平台是否該由政府監管？
照理來說，在民主國家之下，政府不應限縮民眾言論及思想自由。但隨者網路假訊息猖獗，散播不實言論及仇恨訊息已影響民眾理性判斷、思考及決策能力。Deepfake、AI技術圖像及對話軟體問世，徒增辨識及查核方面難度。此外，社群平台用戶龐大及虛實難辨特性，管理機制也是一大問題，如何判定發文及留言內容是否為不實言論及挑撥離間仇恨訊息，即使看起來是一篇新聞報導或發文訊息，如何防範不當檢舉、滲透社群平台管理機制及擔任管理人員，進而放任假訊息大量散佈，也是一項問題。