2024.10.04 09:00

哈佛大學的學生將人臉辨識技術應用到 Meta 的智慧型眼鏡上,在公共場合做到了即時人肉搜索

ADVERTISEMENT

哈佛大學的兩名學生打造了一款大型科技公司因為過高的風險和危險而拒絕公開發表的產品:搭載臉部辨識技術的智慧型眼鏡,可以自動辨識人的面孔。 這些學生甚至更進一步。 他們客製化的眼鏡還可以從網路上獲取目標對象的其他資訊,包括家庭住址、電話號碼和家庭成員。

「這個專案的目的是提高人們對這項技術可能性的認識,而且我們不會發表程式碼。」其中一位開發者阮安富(AnhPhu Nguyen)告訴 404 Media。 但根據一段示範影片,這項實驗已經在現實世界中,對不知情的人進行了測試,這仍然表明,人們可以相對匿名地活動的世界與陌生人可以立即獲取你的身份和個人資訊的世界之間的界限非常薄弱。

阮安富和共同開發者凱恩·阿迪費奧(Caine Ardayfio)將這個專案稱為 I-XRAY。 它使用了一副 Meta 市售的雷朋(Ray Ban)智慧型眼鏡,允許使用者「直接從人臉辨識到姓名」,阮安富說。

ADVERTISEMENT

週二發佈在 X 上的示範影片顯示,兩人對不同的人使用了這項技術。 在第一個例子中,阿迪費奧 走向佩戴者。 影片中說:「要使用它,你只需戴上眼鏡,然後當你走過人群時,眼鏡會偵測到何時有人臉進入畫面。 幾秒鐘後,他們的個人資訊就會彈出在你的手機上。」

在另一個例子中,範例顯示了在地鐵中對「真人」進行的測試。 阿迪費奧看著手機上的人臉匹配結果,然後走向一位他稱為貝琪(Betsy)的女性。 他自我介紹,並聲稱兩人透過某個基金會認識,這顯然是參考了搜尋結果中的某些內容。

「在我們的影片中,我們特意添加了在波士頓地鐵上隨機人士的反應,表現得好像我們認識他們一樣。」阮安富告訴 404 Media。

ADVERTISEMENT

影片中隱藏了這位女士的姓氏,但 404 Media 根據範例中包含的資訊很容易就能辨識出他們。 那位女士沒有對媒體的詢問有所回應,404 Media 也不會公佈她的姓名,因為不清楚她是否同意被用作測試對象。

在示範中,兩人表示他們能夠在不知情的情況下辨識出數十人。 根據影片中的一些回應,在某些情況下,數據並不準確,提供了錯誤的姓名。

「這樣做的動機主要是因為我們認為它很有趣,很酷。」阮安富說。 當兩人開始向其他人展示他們的專案時,「很多人的反應是,哦,這顯然很酷,我們可以用它來建立人脈,我可以用它來對我的朋友惡作劇,製作有趣的影片。」阮安富說。 然後,有人提到了潛在的跟蹤行為。 阮安富舉了一個例子:「某個傢伙可以在地鐵上找到某個女孩的家庭住址,然後跟著她回家。」

ADVERTISEMENT

阿迪費奧告訴 404 Media,當他們向其他哈佛學生和地鐵上的人展示這項技術時,有些人說:「兄弟,我的天啊,這是我見過最瘋狂的事情。 你怎麼知道我媽媽的電話號碼?」

從人臉到姓名到地址等等

能夠使用眼鏡或智慧型手機的相機立即揭露某人的身份,幾十年來一直是科技界的一條紅線。 在她關於臉部辨識興起的書中,《紐約時報》記者喀什米爾·希爾( Kashmir Hill)詳細介紹了 Facebook 和 Google 如何都擁有將臉部辨識與相機結合使用的技術,但拒絕發表。 正如希爾提到的,Google 董事長艾瑞克·施密特( Eric Schmidt)十多年前曾表示,Google「開發了這項技術,但我們拒絕發表」。

「據我所知,這是 Google 開發的唯一一項技術,在研究之後,我們決定停止。」他補充道。

ADVERTISEMENT

一家名為 Clearview AI 的公司打破了這條不成文的規定,並使用從社群媒體上抓取的數十億張圖片開發了一個強大的臉部辨識系統。 Clearview 主要將其產品銷售給執法部門。 Clearview 還探索了一種可以運行其臉部辨識技術的智慧型眼鏡。 該公司與美國空軍簽訂了一份相關研究合約。

現在,儘管阮安富和阿迪費奧沒有發表他們專案的程式碼,但他們已經在公共場合證明,使用現成的產品和服務來製造一副可以自動辨識他人身份的眼鏡是完全可能的。

在一份隨附的 Google 文件中,兩人概述了 I-XRAY 專案,他們表示 I-XRAY 使用 Pimeyes 來查詢人臉。 Pimeyes 是一種臉部辨識服務,與 Clearview 不同,任何人都可以使用。 研究人員已使用它來辨識 1 月 6 日的暴徒,而跟蹤者則用它來揭露性工作者的身份。 上傳某人的人臉照片後,Pimeyes 會提供一份它認為匹配的人臉列表,以及這些圖片來源的網址。 在向 404 Media 的展示的範例中,該系統透過自動造訪 Pimeyes 網站、像人類使用者一樣上傳照片,然後快速打開生成的網址來工作。 該測試對我無效,因為我之前已經要求 Pimeyes 阻止對我臉部的查詢;你可以在此處自行請求阻止

這些網址可以包括畢業紀念冊檔案、雇主網站上的個人資料或某人可能是其成員的當地體育俱樂部等內容。 然後,I-XRAY 抓取這些網址,並使用大型語言模型 (LLM) 來推斷此人的姓名、工作和其他個人詳細資訊,文件中說。

獲得姓名後,I-XRAY 然後在人物搜尋網站上執行查詢。 這些是商業可造訪的數據經紀人,他們通常儲存大量人們的個人資訊,例如電話號碼、家庭住址和社群媒體個人資料。 它們還可以包括有關目標對象家庭成員的資訊。 在向 404 Media 展示的過程中,阮安富表示他們從人物搜尋網站中刪除了阿迪費奧的家庭住址,以防「過激份子」。

這樣一來,眼鏡佩戴者就會自動獲得資訊,在許多情況下,這些資訊可能足以辨識街上的陌生人、他們的工作地點、他們就讀的學校、他們的居住地以及他們的聯絡資訊。

「我們會向人們展示他們從幼稚園開始的照片,而他們以前從未見過這些照片。」阿迪費奧說。 「大多數人都對他們在網上有多少數據感到驚訝。」

當然,這忽略了為什麼兩人特別選擇使用 Meta 的 Ray Bans:因為乍一看,它們看起來就像任何其他眼鏡一樣。 阮安富表示,在考慮到壞人使用這一系列不同技術的最令人毛骨悚然的方式時,他們決定使用智慧型眼鏡。

Meta 發言人拒絕進一步發表評論,但指出了 Meta 針對 Facebook View(Facebook 的眼鏡配套應用程式)的服務條款,其中表示「你還有責任以安全、合法和尊重的方式使用 Facebook View」。 Meta 的 Ray Bans 確實包含一個指示燈,該指示燈的目的是在設備拍攝時亮起,向其他人表明他們可能正在被錄製。

Pimeyes 在一封電子郵件中告訴 404 Media,「我們必須說明,提供的詳細資訊讓我們感到非常驚訝」。 

「我們的系統會找到發表類似圖片的網站,但並非旨在直接或間接辨識個人。我們的使用者收到的唯一資訊是與搜索材料具有高度相似度的圖片來源列表。」該電子郵件補充道,忽略了顯示與上傳圖片中相似的人臉以及該人臉在網上的連結是一種辨識某人的方式這一顯而易見的事實。

去年,404 Media 報導了一個 TikTok 帳號,其所有者使用 Pimeyes 等現成的臉部辨識技術在網路上對隨機人員進行人肉搜索,以供數百萬觀眾取樂。 一位受害者當時表示,他們「真的感到有點被侵犯」。

「我認為人們絕對可以接受這個想法並付諸實踐。」阿迪費奧指的是這款眼鏡。 他補充說,如果有人想跟蹤其他人,他們在本專案之前就可以用技術含量較低的方式來做到這一點,例如使用 Pimeyes 並手動查看結果。 「如果人們真的這樣做,我認為那真的很糟糕。 我希望我們傳播的關於如何保護你的數據的意識能夠超過這可能產生的任何負面影響。」 這些指南包含在 Google 文件中。

ADVERTISEMENT