2024.10.07 09:00

一鍵生成納粹宣傳?極右派利用 AI 把希特勒推銷給新世代年輕人,英語版演說在社群媒體瘋傳

ADVERTISEMENT

極端主義者正在使用人工智慧(AI)在網路上重現阿道夫‧希特勒,為新一代塑造一個「被誤解」的形象。他們重新詮釋這位策劃大屠殺的納粹德國領袖,使其反猶太和反移民的訊息在當今政治中產生新的共鳴。

在過去一個月,在TikTok、X(前身為Twitter)、Instagram和YouTube上,希特勒由AI複製的聲音以英語發表他最臭名昭著的演說,包括1939年預言歐洲猶太人將滅亡的國會演說,這些音訊和影片片段已獲得數百萬觀看次數。一些人為了推廣製作希特勒影片的做法,還舉辦了線上培訓。

這些貼文使用了便宜且流行的AI聲音克隆工具,在X和TikTok上獲得了讚賞的評論,如「我想念你,A叔叔」、「他是英雄」和「也許他不是壞人」。在Telegram和「暗網」上,極端主義者吹噓說,這些經AI處理的演說提供了一種引人入勝且毫不費力的方式,可以重新包裝希特勒的思想來激進化年輕人。

ADVERTISEMENT

「這種類型的內容正以閃電般的速度向廣大受眾傳播紅色藥丸,」一個自稱是法西斯主義的美國未來主義網站於9月17日在其公開的Telegram頻道上發文,使用了描述徹底改變某人世界觀的術語。「就宣傳而言,這是無與倫比的。」

根據非營利組織戰略對話研究所(ISD)和SITE情報集團獨家向《華盛頓郵報》提供的影片、聊天論壇訊息和新納粹活動的螢幕錄影顯示,這種宣傳正在助長美國右翼對希特勒的網路興趣復甦。ISD研究人員在週五發布的報告中發現,自8月13日以來,在X、TikTok和Instagram上,美化、為希特勒辯護或將其演說翻譯成英語的內容已累積約2500萬次觀看。

這些影片正在獲得關注之際,前總統川普和他的共和黨競選搭檔、俄亥俄州參議員萬斯(JD Vance)也在推進在線新納粹社群中流行的陰謀論,包括毫無根據地聲稱俄亥俄州的海地移民在吃寵物。

ADVERTISEMENT

專家表示,最新一代的 AI 工具可以在幾秒鐘內生成逼真的圖片、聲音和影片,讓邊緣群體為令人憎惡的意識形態注入新的活力,為激進化提供了機會,也為社群媒體公司帶來了審核挑戰。

「它帶來了一種新的情感參與方式,可能對新一代更具誘惑力,」大西洋理事會數位鑑識研究實驗室的常駐高級研究員艾默生·T·布魯金(Emerson T. Brooking)表示。

去年,一名用戶在影片分享網站 Odysee 上主持了一場直播,教人們如何使用 ElevenLabs 的 AI 語音複製工具和影片軟體製作希特勒影片。在大約五分鐘內,他創造了一個 AI 語音複製的希特勒,似乎在用英語發表演講,痛斥猶太人從資本主義制度中獲利。

ADVERTISEMENT

這位使用OMGITSFLOOD帳號的用戶被SITE情報集團識別為「著名的新納粹內容創作者」。該集團追蹤白人至上主義者和聖戰分子的網路活動。這位用戶在直播中說,希特勒是「有史以來最好的領袖之一」。他還補充說,希望能啟發未來的領袖,那些可能「正在投票支持川普」但「尚未被點醒」的人。

ElevenLabs 的 AI 安全副總裁阿提米絲·西福德(Artemis Seaford)表示,該公司禁止使用其工具來創建暴力、仇恨或騷擾性內容。在《華盛頓郵報》向 ElevenLabs 檢舉該直播影片後,西福德表示,該公司已禁止該用戶使用其平台。(今年早些時候,一名民主黨特工使用 ElevenLabs 的 AI 語音工具惡搞了喬·拜登總統的聲音。)

Odysee 和 OMGITSFLOOD 對媒體的詢問沒有發表評論。

ADVERTISEMENT

創建這種影片只需要從 YouTube 上擷取幾秒鐘的希特勒演講片段。如果沒有 AI,這種惡搞需要先進的程式設計能力。一些錯誤訊息和仇恨言論專家表示,AI 的易用性正在加速反猶太內容在網上的傳播。

「現在發布這些東西變得容易多了,」左傾非營利監督機構「美國媒體事務」的錯誤訊息研究員艾比·理查茲(Abbie Richards)表示。「你發布的越多,這種內容接觸到更多人的可能性就越大。」

SITE情報集團執行董事卡茲(Rita Katz)說,新納粹分子一直在尋找方法將他們的敘事「強行」納入主流討論。她在一份報告中詳細說明了極端分子如何使用AI。她補充說,AI透過創建吸引人注意力的訊息來提供幫助。

「這些偽裝的希特勒 AI 影片……以一點好奇心吸引用戶,然後讓他們聽一個種族滅絕的怪物說話,」卡茲說。

在 TikTok、X 和 Instagram 上,AI 生成的希特勒演講通常沒有納粹宣傳的象徵。9 月在 TikTok 上發布的一段影片描繪了一個似乎與希特勒相似的人的剪影,並附有文字:「仔細聽。」

伴隨著緩慢的器樂節拍,一個AI生成的希特勒聲音以其象徵性的節奏說英語,朗誦他1942年紀念啤酒館政變的演說節錄。啤酒館政變是1923年一次失敗的納粹政變,使希特勒聲名大噪。根據「美國媒體事務」(Media Matters for America)的資料,這段影片已下架,但獲得了超過 100 萬次觀看和 12 萬個讚。

ISD主任法伊莎貝爾·佛朗西斯-賴特(Isabelle Frances-Wright)表示,即使這些AI希特勒演說沒有附帶明確的親希特勒評論,它們作為激進化工具仍然可能有效。她說:「閱讀希特勒演說的德語翻譯,與聽他用非常情緒化的方式用英語說出來,這之間有很大的區別。」

佛朗西斯-賴特將它們與去年在 TikTok 上瘋傳的影片進行了比較,在這些影片中,內容創作者朗讀了奧薩瑪·賓·拉登的「致美國人民書」宣言的節錄,引發了美國年輕人的回覆,例如「我的天啊,難道我們是壞人?」

理查茲表示,在 TikTok 上,用戶可以輕鬆地使用該應用程式的「二重唱」功能分享和構建影片,該功能允許人們將原始影片與自己對其做出反應的影片一起發布。卡茲補充說,由於這些影片不包含明顯的恐怖主義或極端主義象徵,因此科技公司「極難」監管。

Meta 發言人崔西·克萊頓(Tracy Clayton)表示,在收到《華盛頓郵報》的提醒後,該公司刪除了 Instagram 影片,因為它們違反了該公司的內容政策。TikTok 發言人尼克·史密斯(Nick Smith)表示,它刪除了《華盛頓郵報》檢舉給該公司的所有影片,因為它們違反了 TikTok 的社群指南。YouTube 發言人傑克·馬隆(Jack Malon)表示,該網站的社群指南「禁止頌揚納粹主義等仇恨意識形態的內容,我們已刪除《華盛頓郵報》向我們檢舉的內容」。

戰略對話研究所的報告指出,在其數據集中,親希特勒的內容在 X 上觸及的受眾最多,也最有可能透過該網站的演算法被推薦。X 沒有回應媒體的詢問。

根據非營利組織南方貧困法律中心的年度報告,自 2017 年以來,美國活躍的新納粹團體數量有所下降,部分原因是 2017 年夏洛茲維爾致命的「團結右翼」集會後,執法部門進行了鎮壓。

但該中心的資深研究分析師漢娜·蓋斯(Hannah Gais)表示,這並不意味著納粹主義正在衰落。右翼極端主義者正在轉向線上論壇,而不是官方團體,來組織和生成內容,利用主流社群媒體平台接觸更廣泛的受眾並招募新的追隨者。

雖然無法量化極右翼線上宣傳在現實世界中的影響,但蓋斯表示,當保守派評論員塔克·卡爾森(Tucker Carlson)、億萬富翁伊隆·馬斯克(Elon Musk)和川普顧問史蒂芬·米勒等(Stephen Miller) 宣揚反猶太的「大置換」陰謀論的元素,或者當紐約州水牛城、德州艾爾帕索和紐西蘭基督城的大規模槍擊者引用它作為靈感時,就可以看到其影響力的證據。

這些備受矚目的新聞事件反過來又重新激發了人們對極右翼意識形態的網路興趣。戰略對話研究所的報告發現,在本月卡爾森發布了對大屠殺修正主義者達里爾·庫柏(Darryl Cooper)的採訪後,X 上頌揚或維護希特勒的貼文激增,馬斯克轉發了這段採訪,並稱其「值得一看」。(馬斯克後來刪除了他的貼文。)

卡爾森、馬斯克和米勒都沒有回應媒體的詢問。

今年早些時候,親川普的陰謀論者多米尼克·麥基(Dominick McGee)在 X 上發表了希特勒 1939 年國會大廈演講的英語 AI 語音重製版,根據 X 的指標,該演講獲得了 1.3 萬次轉推、5.6 萬個讚和超過 1000 萬次觀看。(專家指出,與其他網站相比,X 上的觀看次數可能被誇大了。)

「這個 AI 翻譯讓觀眾得以一窺希特勒的內心世界,」麥基寫道。去年,他因發布兒童性虐待影片而被暫停帳號,後來在爭議中被馬斯克恢復。雖然麥基的發文雖然沒有認同希特勒的觀點,但許多回覆表示贊同,而其他人則要求將演說翻譯成法語、阿拉伯語和孟加拉語。

戰略對話研究所的資深研究員賈里德·霍特(Jared Holt)與人合著了一份關於 TikTok 上白人民族主義興起的獨立近期報告,他表示,極端主義者通常是最早利用新興技術的群體之一,這些技術通常允許他們繞過在已建立平台上封鎖此類材料的障礙。

霍特表示,你不能假設每個觀看或分享 AI 希特勒影片或迷因的人都同意它——有些人可能只是覺得它有趣或前衛。

「但在更廣泛的政治格局中,如果人們一遍又一遍地接觸到這些內容,它可能會產生麻痺或正常化的效果,」他說。

ADVERTISEMENT