2023年10月7日,特拉維夫清晨時分響起了空襲警報,新創公司Clarity創辦人麥克.馬蒂爾斯(Michael Matias)從床上驚醒,並從手機上得知哈瑪斯對以色列發布恐怖攻擊,劫持了上百名人質,而且案發地點距離他家只有1小時車程之遙。
震驚之餘,他也立刻意識到自己的公司將擔起重責大任,Clarity是辨別競選期間Deepfakes造假的AI新創。就如他所想,這場戰事不只依靠現實中的彈藥與火力,網路上各種真真假假的「第一線畫面」成為了媒體戰的最好材料。
隨著科技進步,AI生成的內容愈來愈難以分辨。無論是誰,在任何地方都能輕易取得強大的AI技術,大量生成虛假訊息,甚至是肉眼難辨真偽的圖片和影像,馬蒂爾斯成立Clarity就是想解決這樣的問題。當加薩走廊的各種資訊在網路上流竄時,便有國際媒體組織請Clarity剔除Deepfakes的內容,他們也和以色列情報單位合作,協助辨別哪些戰場影像是假的。
Clarity的作法並不是直接證明內容真偽,而是利用AI技術找出影片中是否有AI動刀的痕跡,例如10月7日真主黨領導人譴責的一部襲擊影片,便被他們發現是偽造的。
「這是一場AI與AI之間的戰爭。」馬蒂爾斯表示。不過一些解析度較差的影片,仍然需要人類協助判斷。
現在從企業到政府都開始加強相關的防護措施,Meta就要求競選內容必須註明是否由AI生成,而Google則要求提供圖片來源等資料;於英國舉辦的AI峰會上,28個國家的官員都同意應採取措施辨別AI造假。
本文轉載自:數位時代
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!