調查2,700 名主要AI 研究人員，科學家認為AI導致人類滅絕的可能性為5%

在迄今為止規模最大的一項人工智慧（AI）研究人員調查中，多數人表示，由於可能開發出超越人類的 AI，人工智慧技術可能有 5% 的機會對人類構成存在的威脅。

這項調查涵蓋了2,700 名在六大主要AI 會議上展示研究成果的AI 研究人員，是迄今為止規模最龐大的AI 研究人員調查。參與者被詢問了他們對即將到來的AI 里程碑的潛在時間表以及這些進展的正面或負面社會影響的看法。《新科學家》報導，近58% 的研究人員表示，他們認為像人類滅絕或其他與AI 相關的嚴重負面後果發生的可能性為5%。

▲ THOUSANDS OF AI AUTHORS ON THE FUTURE OF AI

這項研究還顯示，研究人員預計一些重要的AI 里程碑，例如創造出與人類作品無法區分的音樂，將比最初預期的更早出現。

「『這是一個重要的訊號，』加州機器智慧研究所的 Katja Grace 說道，她是這篇論文的作者之一，『它代表著大多數 AI 研究人員並不認為先進 AI 摧毀人類是完全不可能的。我認為，普遍相信風險並非微乎其微，比確切的百分比風險更加具有啟發性。』」

人工智慧研究界越來越多人認為，超級智慧 AI 的出現可能對人類造成重大威脅，甚至導致滅絕，儘管對這些風險的程度和形式仍存在相當大的分歧和不確定性。 這是迄今為止規模最大的 AI 研究人員調查，涵蓋了最近在六個頂尖 AI 會議上發表研究成果的專家。

• 延伸閱讀：擔心AI殺死人類？我們先擔心壞人會利用 LLMs 做什麼壞事 

調查結果進一步凸顯了，不少 AI 研究人員沒有輕視先進AI 對人類構成嚴重威脅的可能性。來自機器智慧研究所的 Katja Grace 強調了普遍認為存在不可忽視風險的重要性，而不是僅僅關注特定百分比數字。

然而，來自凱斯西儲大學的 Émile Torres 認為不需要立即恐慌。他們指出，AI 專家調查在預測未來發展方面的歷史記錄讓人很質疑，一份 2012 年的研究表示，專家預測的準確性比公眾意見好不到哪裡去。 

與 2022 年的版本相比，許多 AI 研究人員現在預計 AI 將比之前預測的更快地實現某些里程碑。這與 2022 年底 ChatGPT 和類似模型等 AI 聊天機器人服務的廣泛部署相吻合。 

儘管人們擔心 AI 會偏離人類價值觀而造成危害，一些人仍然認為，目前的技術還無法造成懷疑論者們預測的災難性後果。哲學教授 Nir Eisikovits 認為，AI 系統無法做出複雜決策，也沒有自主存取關鍵基礎設施的許可權。 

雖然關於 AI 抹除人類的恐懼引人注目，但《自然》雜誌的一篇社論認為，更迫切的社會擔憂在於偏見決策、工作流失以及極權政權濫用臉部辨識技術。該社論呼籲關注實際風險並採取行動解決它們，而不是散布恐慌性的敘述。

擁有與人類同等智慧的AI 可能會創造出其他AI，進而導致無法控制的「超級智慧」。研究人員Otto Barten 和Joep Meindertsma 認為，AI 實驗室的競爭性本質促使科技公司快速創造產品，可能忽略倫理考量並承擔風險。他們警告說，歷史顯示，人類並不擅長預測新技術所帶來的未來後果。 

研究人員寫道：「從歷史上來看，人類在不擅長預測新技術在未來對外部影響。」

• 延伸閱讀：人工智慧的智慧超越了人類的「奇點」時代是否已經到來？
• 延伸閱讀：前OpenAI安全研究員警告，AI毀滅人類的可能性為 20%