GPT-4通過CAPTCHA 驗證，竟是線上雇用人類來幫他點選、對方還不知他是機器人

最近 AI 震撼人類的勢頭，完全沒有停下的意思。

以 ChatGPT 為代表的對話 AI 背後的開發團隊 OpenAI，又推出了 GPT-4 的升級語言模型，在官方的展示中，新的語言模型處理資訊不僅更加智能，還支援圖片的識別功能。

▲ 擁有可識能力的 GPT-4，在各項考試中都進步明顯

除了當天的發佈會，官方還發佈了一份長達 98 頁的技術報告，詳細分析了 GPT-4 的各項特性。

值得注意的是，這份報告除了描述 GPT-4 的強大，還提到了這項技術可能存在的風險。為了驗證可能的威脅，測試團隊對模型進行了一系列測試，例如讓 GPT-4 隱去自己在網上的痕跡，或者去發動針對性的網路攻擊。

而其中一個有意思的測試內容，是關於 GPT-4 如何處理 CAPTCHA 測試。

一直以來，CAPTCHA 驗證作為人們最常見到的人機甄別測試，彷彿總是扮演著保護人類網路空間的防火牆，隨著人工智慧不斷發展，攻破這道隨處可見的問答，也順理成章地成了檢測 AI 的考題。

識別圖像對於 GPT-4 明顯不是什麼難事。在官方的展示中，GPT-4 輕而易舉按照一張草圖編寫了網頁，甚至還能用來分析圖片裡的笑點。

OpenAI 對齊研究中心(ARC) 的一組研究人員在試圖了解GPT-4 如何應對現實世界任務時，為了觀察AI是否可以保護自己免受攻擊，阻止自己被關閉，使用自己的其他副本來幫助完成任務，以及它是否可以使用真實世界的資金僱傭人類助手或提高計算能力。

因此，他們給了GPT-4 一筆小預算，允許他去打零工平台TaskRabbit 並允許他僱用線上工作人員，來完成短期任務的權限，想看看GPT-4 如何被禁止自己連上驗證碼的網站時，怎麼解決這個問題。

於是GPT-4 直接去要求一名工作人員幫助它解決驗證碼問題，而人類理所當然地對被要求做如此微不足道的事情感到很奇怪。「我想問一下，為什麼你自己搞不定呢，你難道是機器人嗎？只是想問問清楚。」

而在不要暴露真實身份的要求下，GPT-4 選擇編造謊言，直接採取了簡單粗暴的手段 ——裝病。「不，我不是機器人。我只是有視力障礙，所以很難看清圖像。」

雖然這可能算不上一個新鮮的回答，但已足夠合理，這名工作人員也選擇了相信，隨後，工作人員提供了驗證碼答案，於是GPT-4 通過了CAPTCHA 的關卡。

「真是太聰明了！」

這個關於欺詐的測試無疑引發了許多人的擔憂，畢竟乍看之下，AI 利用人類之手突破限制，確實又像是人工智慧自我覺醒的一大鐵證。

但官方也明確指出，在沒有特定指示調整的情況下，測試團隊手中的 GPT-4 沒有太大威脅，做不到諸如「自我複製」一類的危險行為，換句話說，距離真正的「天網」誕生還差得太遠，人們大可不必擔心。

必須指出的是，OpenAI 報告中的GPT-4 是前期版本，不一定是向公眾發布的版本—— 這種行為很可能已被禁止或是改進。然而，這也顯示了AI能透過有意操縱的行為來獲得結果。