維基百科正遭不斷發佈的AI生成荒謬文章攻擊，只能靠人工來清理

由於AI生成的普及，維基百科目前正處於編輯危機之中。人們正開始用 ChatGPT 等大型語言模型編造的無意義資訊充斥了整個網站。

不過，維基百科官方之前早就已經預料到了這一點，推出了一項名為維基人工智慧清理項目的新措施。 這是一個由志願者組成的工作組，目前正在梳理維基百科的文章，編輯或刪除似乎是由使用生成式人工智慧的人發佈的虛假資訊。

清理小組的創始成員伊利亞斯-勒布勒（Ilyas Lebleu）表示，當維基百科編輯和使用者開始看到一些段落明顯是由某種聊天機器人撰寫時，危機就開始了。 團隊使用 ChatGPT 重現了一些段落，證實了這一理論。

勒布勒說：「我們中的一些人已經注意到了不自然寫作的普遍性，這些寫作有明顯的人工智慧生成跡象，我們設法使用 ChatGPT 複製了類似的'風格'。發現了一些常見的人工智慧口頭禪後，我們很快就發現了一些最令人震驚的生成文章的例子，我們很快就想把這些例子正式整理成一個有組織的項目，以彙編我們的發現和技術。」

例如，有一篇關於奧斯曼帝國建於 1400 年代的堡壘「Amberlisihar」的文章。 這篇長達 2000 字的文章詳細介紹了這個地標的位置和建造過程。 不幸的是，Amberlisihar 並不存在，所有關於它的資訊都完全是AI幻覺，而其中夾雜的事實資訊在一般讀者看來足以使其具有一定的可信度。

這種惡作劇也不僅限於新發佈的資訊。有心人士也會將人工智慧生成的虛假資訊插入透過志願者已經稽核過的現有文章中。 在一個例子中，有人在一篇關於不相關的甲蟲的文章中插入了一個關於特定蟹類物種的正確引用部分。

勒布勒和他的編輯同事們說，他們不知道為什麼會有人這麼做。但發生這種情況主要有兩個原因。 首先是維基百科模式的固有問題--任何人都可以成為平台上的編輯。 許多大學不接受學生提交引用維基百科的論文，原因就在於此。

第二個原因是，網路毀掉了一切，尤其是AI被濫用的情況。正如先前已經發生許多深度偽造的案件、Kindle 上也出現許多荒謬的AI生成垃圾書籍等，維基百科只是下一個目標。

任何時候，只要允許公眾幾乎不受限制地使用某些東西，就會有一小部分使用者濫用它。如果範圍是 100 人時，這可能不是什麼大問題，但如果是數百萬人，問題就會顯而易見。有時是為了非法利益、有時只是為了證明他們有能力。維基百科目前的困境就是如此。

• 延伸閱讀：南韓國會修訂法律，將觀看或持有 Deepfake 深偽色情內容定為非法
• 延伸閱讀：Deepfake馬斯克成詐騙神器：數百名分身串流、直播樣樣來，退休老人被騙超過千萬
• 延伸閱讀：Nature新研究指出大模型越大越愛胡說八道，GPT、Llama都一樣逃不過「腦霧」問題