Elon Musk提醒：人工智慧就像召喚惡魔，人類不一定能控制它

一個月之前，世界上最熱門的電動車公司特斯拉以「D」字為發佈會的主題，當時大家以為是無人駕駛汽車的時代來臨了，可惜半個月之後謎底揭曉，無人駕駛還是沒有來到特斯拉新車當中。而在這之前，另一家矽谷科技公司 Google 剛剛發佈了旗下 Google[x] 團隊研發五年之久的無人駕駛汽車，沒有方向盤，沒有油門和刹車等人為的制動裝置。

特斯拉是汽車公司，Google 是網路公司。為什麼我們要依靠一家網路公司，而不是汽車公司，來發展無人駕駛的未來？為什麼特斯拉還沒有著手做無人駕駛汽車？

早在今年 8 月，Musk 就曾在 Twitter 上表達過對於人工智慧的疑慮：

他表示，Nick Bostrom 的著作《超級智慧》（Superintellegence）值得一看。認為人類需要對人工智慧非常謹慎，否則其在未來的危害性將不亞於核武器。

或許你可能覺得他只是心血來潮，寫在Twitter上面隨便說說而已。但，隔了兩個月，他又在前兩天麻省理工學院的一場公開訪談上，再度發表了類似的言論。

Musk表示，人工智慧就像「召喚惡魔」這種神話中遠古的術士才會研習的恐怖技法一樣，將會為研究它、使用它的人帶來無法預估的惡果。每個巫師都聲稱自己可以控制惡魔，但沒有一個最終成功的。

事實上，他還認為人工智慧可能會是人類存在的威脅，必須要由國家等級的單位來監管，以確保人工智慧不會走向歪路。

如果這句話是別人說的，那也就聽過就算了。但是說這話的可是「鋼鐵人」Elon Musk，擁有優秀技術背景的科技界高層人士，而且他今年三月才投資了一家人工智慧領域研究圖像識別技術的創業公司。

Elon Musk：人應該擁有全部的控制權，而非放棄

我們不妨換個角度來思考Elon Musk對科技的態度。

Musk對Tesla電動車的想法是「控制車就像控制自己的身體一樣——不需要思考，車就在那裡，隨時準備好感應你的想法，做到你想要做的事」。其實這個想法準確地顯現了Musk認為人應該對車擁有全部的控制權，而不是反過來。

正因為 Musk 是技術出身，他才對於現在以及可預見的未來裡，人工智慧的研究成果取代/奴役人類的程度的理解，比普通人有更多的資料支撐。原來，被他人吹捧為現實版鋼鐵俠的他，恰好是最擔心人工智慧技術過度發展的人。

人工智慧：科技世界的魔鏡

其實，人工智慧就像是科技世界裡頭一面魔鏡，它可能無所不知，但是卻不通人性。

如果你是壞皇后，你問身邊的一個衛士，世界上誰最美麗，衛士當著你的面一定回答「當然是皇后」。這麼一回答，皆大歡喜，什麼事情都沒有。但是皇后偏偏要問魔鏡「世界上誰最美麗？」不通人性的鏡子就會回答：「是白雪公主」。

也就是這句答案，才衍生出這麼多的事情來。

我們來盤點一下，人工智慧現在都可以做什麼？

• 一家名為 Darktrace 的公司正在使用貝葉斯理論來開發出一套安全系統，試圖學習什麼是「正常」的情況和「不正常」的情況，從而為部署該系統的 IT 架構提供事故發生時，甚至是發生前的報警服務。
• 另一家名為 Celaton 的公司已經可以為使用者提供虛擬客服軟體，通過不斷地學習，幫助用戶在客服工作這一勞動密集型工作上，降低勞動力成本，提高客服溝通成效。
• 由人類研發的深藍，在國際象棋上擊敗了人類自己。深藍的下一代，華生，可以幫人類分析論文歸納結果。

特斯拉作為一家創新的電動車公司，在自動駕駛系統方面持反對的態度，而反倒是Google這個網路公司，打算用機器替代人類，給生產效率帶來大變革。

當機器已經可以自行決定什麼是「正常」和「不正常」的時候，可以讓溝通的物件察覺不出來自己是機器的時候，面臨機器很有可能拋棄「忠誠」這一極大影響機器系統自身效率的行為，已經變得越來越懶的人類還有多大的勝算？

無數的科幻電影中都表現過這些現象：當機器已不是人類的「電腦」，而人類會成為機器的「電池」。當然，很多人都覺得，這一天的到來依然很遙遠，人類對於人工智慧的研究，真的到了值得擔心的地步了麼？

或許，Elon Musk 希望傳達給我們的觀點並非如此。適當的人工智慧研究，當然能夠給人類生活帶來進步，但恐怕目前還沒有人能夠研究明白何謂「適當」。這正是人工智慧最可怕的一點：如果沒有方向盤、煞車等設備，這世界上有多少人願意全身心地相信無人駕駛汽車不會讓自己死於非命？

在人工智慧研究出「適當」的尺度在哪一點之前，人性掌握控制權恐怕依然是唯一且最好的選擇。