假新聞也不僅由人類產生，機器也可以生產出令人信服的假新聞。隨著時間的推移和技術的發展，這種情況只會變得越來越普遍，並且可能更有破壞性。真真假假分不清，不如「以火治火」，用 AI 來檢測 AI 寫的假新聞。這個檢測假新聞的 AI 就是 Grover。
你對假新聞司空見慣了嗎？
一張真假難辨的圖片，一個在現實和虛假間游離的故事，這會讓你難以分辨事實的真相。久而久之，在習慣用質疑的眼光看一切的你看來，真新聞也像假新聞，假新聞也有真事實。
而在今天，假新聞也不僅由人類產生，機器也可以生產出令人信服的假新聞。隨著時間的推移和技術的發展，這種情況只會變得越來越普遍，並且可能更有破壞性。
真真假假分不清，不如「以火治火」，用 AI 來檢測 AI 寫的假新聞。這個檢測假新聞的 AI 就是 Grover。
我們對 Grover 的研究表明，檢測虛假訊息的最佳模型就是產生它的最佳模型。
Grover 從 Google 新聞上 5000 個不同媒體撰寫的新聞中進行學習。在這過程中，它接收了 120 GB的真實新聞文章，並用這些文章進行訓練，最終 Grover 分辨人和 AI 寫的故事的正確率是 92%。在此之前，最好的假新聞辨識器的正確率是 73%。
Grover 之所以能如此有效地發現假內容，是因為它也非常善於自己製作內容。畢竟造假大師和鑑假大師之間只有一線之隔。
華盛頓大學教授和論文的共同作者 Yejin Choi 在一份新聞稿中就表示辨別假新聞的 Grover 在假新聞撰寫編造上也遠比他人得心應手。「在我們的研究中，我們發現 Grover 的假新聞內容遠比我們人類同胞寫的新聞更可信，這一事實說明了自然語言生成的發展程度——以及為什麼我們需要努力克服這種威脅。」
這個擅長打假也擅長造假的 AI 還有能力模仿特定媒體的風格，甚至是特定作家的風格。之前，Grover 生成的一篇假新聞就模仿了《紐約時報》專欄作家 Paul Krugman 的文章風格。不過研究人員也表示，即使是最好的人工智慧假新聞，所做的一切依然基於習得的風格和語調，而不是對語言和世界的真正理解。因此，只要我們有耐心，我們可以從原作者浩如煙海的文章中找到 Grover 模仿的痕跡。
大方的研究者們將 Grover 的演示放在了網上，每一個人都可以用它寫些天馬行空的假新聞。Fastcompany 的編輯就用它寫了一個《為什麼川普一天要做100個仰臥起坐》的怪誕文章。面對這種專業編輯都有點束手無策的文章，Grover 的表現也蠻出彩：
當你想到仰臥起坐時，第一個想到的形象絕對並不是美國總統。
作為一名三軍統帥，川普的健康狀況幾乎不為人知，雖然他承諾一旦當選總統就會鍛鍊身體。在《名人學徒》節目中，他對阿諾‧史瓦辛格的技術大加嘲諷，沒有什麼能阻止川普不做「川普式的仰臥起坐」。
不過就連川普自己也承認，不管你的工作多麼適合你，要想駕馭自己的身體都是極其困難的。那麼，是什麼讓三軍統帥走上正軌呢？答案是 100 個仰臥起坐。
雖然只有短短兩段內容，但是我們也可以看出 Grover 對川普性格和言論的把握和本人性格非常相似。刨開令人啼笑皆非的新聞主題，可能真的會有不少人相信這條新聞。
Grover 論文的第一作者 Zellers 表示：「儘管書寫看起來很流暢，但 Grover 和其他神經語言生成器所寫的文章包含了機器獨有的語言怪癖，這暴露了它們的機器起源。」這些語言不暢之處就類似於神經文本生成器的簽名或水印。Grover 知道去尋找這些「水印」，這使得它在挑選人工智慧創造的故事時更為高效。
Grover 依然需要進化，雖然它已經比同行做得更加出色了，但它依然還有無法辨識的 8% 假新聞。
隨著人工智慧變得越來越複雜，用 AI 抵禦 AI「製造」可能是我們能夠採取的最佳手段。
- 本文授權轉載自ifanr
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！