前OpenAI安全研究員警告，AI毀滅人類的可能性為 20%

一位曾任 OpenAI 安全研究人員的人正在發出警告，提醒人們人工智慧可能最終導致人類終結的嚴峻前景。

前OpenAI 基金會員工保羅·克里斯蒂亞諾在一個Podcast節目中說，「我認為人工智慧取代人類的可能性大約為10-20%，又或者大多數人類已經死亡，需要非常嚴肅對待這個問題。」

克里斯蒂亞諾認為機器會逐漸地崛起，人類的終結不是一場突如其來的事件，而是人工智慧逐漸地崛起，人類與機器已經透過諸如自動駕駛汽車、無人機等已經滲透到了生活中。而當AI超越人類智商閾值時，一切皆有可能。

克里斯蒂亞諾認為，AI殺消滅人類的最可能方式是日常生活中部署的所有AI聯合起來，而不是突然消滅人類。

克里斯蒂亞諾的新非營利組織 Alignment Research Center 基於人工智慧對齊的概念，該概念早在2018年就被廣泛定義為讓機器的動機與人類的動機保持一致。

AI 對齊（AI Alignment）是指讓人工智慧系統的目標、價值觀和行為與人類社會期望一致的問題。在設計 AI 系統時，我們希望 AI 能夠在解決問題的同時，考慮到人類的利益，並且不會對人類產生損害。

儘管 OpenAI 口頭上也說過要「對齊」，聲稱它「旨在使人工智慧（AGI）與人類價值觀保持一致並遵循人類意圖」，但仍需要進行更多的研究和開發，以確保安全和合乎道德地開發人工智慧。確保機器的動機與人類的動機一致對於防止人工智慧毀滅的可能性至關重要。