趨勢科技深偽偵測方案 Trend Micro Deepfake Inspector，協助防範 AI 視訊詐騙

AI 攻擊與 Deepfakes 深偽詐騙快速成長，全球網路資安廠商趨勢科技發表深偽偵測方案 Trend Micro Deepfake Inspector，協助企業與消費者保護所有網路環境、防範 AI 視訊詐騙。

駭客搭上 AI 應用熱潮，網路犯罪工具暴增

趨勢科技研究報告指出，駭客正搭上 AI 應用爆炸性成長的熱潮，導致網路犯罪地下市場的 AI 犯罪工具暴增。這些工具不僅越來越便宜且更容易取得，使得任何技術能力的駭客都能更輕易地發動大規模攻擊，藉由欺騙受害者來從事勒索、身分冒用、詐騙以及散播假訊息。

而根據趨勢科技最近一項調查，71% 的消費者對深偽抱持著負面觀感，並相信深偽的最大用途之一就是詐騙。因此，偵測與打擊這些 AI 犯罪手法是企業改善攻擊面風險管理以及降低消費者整體網路風險的核心。

趨勢科技全新深偽偵測方案

即將在 Trend Vision One 平台全新推出的深偽偵測技術，運用多種進階方法來偵測 AI 生成內容。除了影像雜訊分析與色彩偵測等技術，Vision One 平台還會分析使用者的行為元素來執行更強大的深偽偵測及攔截方法。在偵測的當下，趨勢科技便會立即通知企業資安團隊，讓他們有機會學習及獲得更新，並採取主動措施來防範未來的攻擊。

此外，該功能即日起也將經由 Trend Micro Deepfake Inspector（目前僅適用於 Windows 系統 ）提供給一般消費者使用，可協助確認即時視訊會議當中是否有人正在使用深偽技術，並提醒使用者其目前談話的對象可能有人是假的。

Gartner 分析師 Dan Ayoub 表示，一些現成的高品質生成式 AI 應用程式現在已經可以產生逼真的視訊內容，足以騙過或誤導觀賞者。「由於這些工具的使用門檻很低，而且越來越精密，因此有必要發展出一套可偵測 GenAI 深偽內容的系統性方法。」

深偽對現代企業和一般個人都是一項嚴重風險，只要一次不小心被深偽所騙，就可能面臨財務損失、丟掉工作、法律問題、名譽損失、身分遭冒用，以及潛在的精神或健康損害。在趨勢科技近期的一份調查中，36% 的消費者表示曾經遇到過深偽詐騙；而美國聯邦調查局先前也曾警告大眾小心歹徒結合深偽技術與視訊電話來從事變臉詐騙，以及假裝應徵遠距上班工作的情況。

這不僅可能被濫用於騙過真人審查程序，還可能用來欺騙一些生物辨識安全機制，例如臉部辨識。趨勢科技研究也披露了最近資安情勢所出現的一些轉變，指出駭客越來越喜歡使用一些創新的越獄技巧來攻擊現有大型語言模型的弱點，而非自行開發犯罪專用的 AI 工具。

Trend Vision One 推出新功能

趨勢科技推出最新解決方案以致力保護客戶邁向 AI 之路。在推動零信任策略的方針下，趨勢科技最近也為 Trend Vision One 推出新的功能來實現以下目標：

• 集中管理員工存取與使用 GenAI 的情況。
• 檢查 GenAI 指令來防止資料外洩與惡意注入攻擊。
• 過濾 GenAI 內容來達成法規遵循要求。
• 防範大型語言模型攻擊。

Trend Micro Deepfake Inspector 是一套免費的解決方案，專為提醒使用者注意視訊通話中的潛在深偽內容而設計。這項分析技術會在使用者的裝置上即時執行，確保資料和隱私隨時受到保護。

• 延伸閱讀：語音複製公司Resemble AI發表新一代的Deepfake檢測模型Detect-2B，準確率高達94%。
• 延伸閱讀：美國15歲高中生遭同學「一鍵脫衣」，暴露受Deepfake裸照受害者幾乎沒有任何求助途徑
• 延伸閱讀：對抗你的聲音被Deepfake！AntiFake技術可以防止你的聲音被AI深度偽造