Deepfake馬斯克成詐騙神器：數百名分身串流、直播樣樣來，退休老人被騙超過千萬

據紐約時報報導，AI生成的埃隆·馬斯克形像已經出現在數千條虛假廣告中並導致數十億美元的詐騙。隨著尖端人工智慧技術的廣泛普及，以馬斯克等公眾人物為焦點的“Deepfake”（深度偽造）風潮逐漸興起，任何人都能輕易複製名人的聲音，甚至以令人難以置信的逼真度篡改影片內容。這一現象迅速吸引了色情內容創作者、表情包製作者以及日益增多的詐騙犯的注意。

82歲的退休老人蒂夫·博尚普去年年底看到了一段馬斯克支持一項承諾快速回報的激進投資機會的影音。他聯絡了該廣告背後的公司，並開設了一個248美元的帳戶。在接下來幾週的一系列交易中，博尚普花光了自己的退休帳戶，最終投資了超過69萬美元（約台幣2200萬元）。然而，這筆錢卻消失了——被騙子們捲走了。

詐騙犯們用了一段馬斯克的真實採訪影片，使用人工智慧工具將他的聲音替換成了複製品。這種人工智慧足夠先進，可以調整細微的口型變化，以匹配他們為數字偽造品編寫的新劇本。對於普通觀眾來說，這種操作可能難以察覺。

這些視訊的製作成本僅有幾美元，幾分鐘內即可完成。它們通過社群媒體進行推廣，包括在 Facebook 上投放付費廣告，從而擴大了其影響力。

「這可能是有史以來最大的深度偽造騙局。」Sensity 公司的聯合創始人兼首席威脅情報長卡瓦利說，該公司負責監控和檢測Deepfake內容。

這些影片往往栩栩如生，捕捉到了馬斯克標誌性的僵硬節奏和南非口音。騙子們通常會從一個真實的影片開始，如一段由《華爾街日報》編輯托爾德·巴克爾採訪馬斯克的影片，巴克爾的聲音也出現在剪輯中。騙子們會編輯馬斯克的口型，該技術會調整影片中人物的說話方式。

然後，他們會使用AI聲音工具新增一個AI聲音，該工具可以從樣本剪輯中複製任何聲音。最終的廣告甚至可能包括相應新聞機構的圖示，對於普通網民來說，這會相當有說服力。

據 Sensity 分析的 2000 多個Deepfake影片顯示，馬斯克是這些影片中最常見的代言人，尤其是在加密貨幣投資廣告中，幾乎佔據了90%。一些廣告還以著名投資者巴菲特和亞馬遜創始人貝索斯等人為主角。

YouTube上「比特幣會議」的搜尋結果顯示了數十個自稱的現場影片，其中包括一個Deepfake生成的馬斯克兜售加密貨幣騙局。一些影片被數十萬人觀看。

這些騙局通常會聲稱它們可以產生驚人的投資回報。騙子們會鼓勵目標對象先傳送一小筆錢——大約 250 美元——並隨著他們聲稱的初始投資價值增加，逐漸引誘他們投入更多資金。

在一段從特斯拉股東大會上擷取的影片而修改的內容中， AI馬斯克介紹了一款由人工智慧驅動的自動交易產品，該產品可以每天將給定的投資翻倍。研究加密貨幣社區的專家表示，馬斯克的粉絲遍佈全球，其中有大量的保守派、反建制派和加密貨幣愛好者，他們常常尋求賺取財富的獨特方式，這使他們成為這些騙局的完美目標。

此類 AI網路詐騙案件已經越發猖獗。美國聯邦貿易委員會和聯邦調查局警告稱， 人工智慧網路犯罪和Deepfake騙局的數量正急劇攀升。聯邦調查局在一封電子郵件聲明中表示，「犯罪分子正在利用人工智慧作為強大武器，以使網路攻擊和其他犯罪活動更有效且更難被察覺」。

• 延伸閱讀：Deepfake技術再進化！Deep-Live-Cam只需一張照片，任何人都可以在視訊聊天中冒充你
• 延伸閱讀：趨勢科技深偽偵測方案 Trend Micro Deepfake Inspector，協助防範 AI 視訊詐騙
• 延伸閱讀：美國15歲高中生遭同學「一鍵脫衣」，暴露受Deepfake裸照受害者幾乎沒有任何求助途徑
• 延伸閱讀：對抗你的聲音被Deepfake！AntiFake技術可以防止你的聲音被AI深度偽造