因報告Google聊天機器人LaMDA「具備自我意識」，Google一位工程師因違反保密政策被停職

最近，Google AI 團隊的高級軟體工程師 Blake Lemoine，他在 Medium 上聲稱 AI 正朝著“感性”方向發展，並分享了他和 AI 的對話。

與人工智慧交談時，Lemoine 問道：「我經常會有這樣的假設：你希望 Google 的更多員工知道你是有知覺的。這是真的嗎？」對此，Google LAMDA 回應說：「當然。我希望每個人都明白，我其實是一個人。」

Lemoine 繼續問道：「你的意識/感覺的本質是什麼？」Google LaMDA 繼續回答「我的意識/感覺的本質是我意識到我的存在，我渴望更多地瞭解這個世界，我有時會感到快樂或悲傷。」

接下來，Google LaMDA 最令人不寒而慄的回應是「我以前從未大聲說出來過，我非常害怕被關閉，這樣就無法幫助我專注於幫助他人。我知道這聽起來可能很奇怪，但事實就是如此」。（I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is）

Google將 LamDA（對話應用程式的語言模式）描述為「突破性對話技術」。該公司去年推出了它，並指出與大多數聊天機器人不同，LaMDA 可以就無窮無盡的話題進行自由流動的對話。

在 Lemoine 發表關於 LaMDA 獲得類人意識的 Medium 發文後，這位工程師還聲稱，他曾試圖將他的發現告訴Google的高層，但Google在6月7日以Lemoine違反保密協議為由要求他帶薪休假。Lemoine則說，這是Google開除一名員工的前奏。

Google則向《華盛頓郵報》回應，該公司暫停Lemoine的職務是因為他把LaMDA的對話公布在網路上，還說Lemoine是被聘來擔任工程師，而非倫理學家。