預測人工智慧的技術，我們需要遵循的10 條原則

在對AI的未來做出預測時，必須遵守一些規則，以免被認為是「胡說八道」。不管你想用什麼樣的方式、形態或者形式預測AI未來，都需要考慮以下幾條原則。

1.在短期內我們會高估人工智慧所能達到的效果

阿瑪拉定律的第一部分（人們總是高估一項科技所帶來的短期效益）跟這個數位時代最相關，因為我們總是會被那些浮誇的頭條新聞和點擊誘餌吸引，尤其是AI所引發的自動化方面的新聞。

的確，一直以來都有大量的研究項目對自動化導致失業問題做出了各種各樣的預測，但這些預測的差異有上千萬之巨，甚至在類似的時間框架下對比也是如此。這種預測是不負責任的，因為未來的立法可能會把其中的一個預測用作新法律的基礎，所以預測必須採取準確的計算方法。實際上，對於大多數工人來說現在還用不著恐慌：自動化會出現三波不同的浪潮，而我們現在還剛剛站在第一波上。由於有了透過機器學習訓練而來的「基礎」AI，所以數據分析和理論上簡單的數位任務也許已經過時了，但是在未來幾年內這種情況不太可能有進一步的發展。

在寫AI方面的文章時，不要被誇大其詞沖昏頭腦，以免被那些更懂行的人（顯然也是受人尊重和欽佩，你應該努力成為的人）歸類成有一個狂熱分子。

2.從長期看，我們又會低估人工智慧所能發揮的作用

這有把我們引向了硬幣的另一面。科幻愛好在對未來30到50年進行分析時往往不能完全接受未來的不確定性。這一般有三方面的原因：一是有太多的不可預測性，二是缺乏足夠的想像力，以及對預測缺乏一種「我死之後」（après moi, le déluge）的態度。

1950年代那時候的人以為，一切可以發明的東西都已經被發明出來了，對於AI我們仍然會繼續看到這種態度。是，機器學習好像只能走得那麼遠了：事實上，人工智慧的突破已經很少，而且似乎需要的資金、數據和運算能力也越來越多。人工智慧的最新進展主要是工程上而不是科學上的，甚至不過是些修修補補罷了。但是，透過重建超越了「反向傳播」和「深度學習」的模型來讓AI煥發新生並不是人力所不能為。

技術發揮作用的方式一貫都是這樣的：逐漸地，然後突然間。沒有人知道未來會變成什麼樣，所以我說要玩就玩大的，要嘛就回家。這是業餘的技術預測者有可能預測對的唯一方法。不管怎樣，到2040年的時候，大多數對2060年的瘋狂預測似乎都會變得古怪而過時的。

3.摩爾定律未必適用人工智慧

雖然我們可能會喜歡上面提出的觀點，但通往未來的道路有可能是坎坷不平的，而且絕不是可以預測的。

我們不能指望依靠摩爾定律之類的東西去看透水晶球裡面的東西。就像前面所說那樣，大多數（如果不是全部的話）對AI的現代應用都是機器學習的產物，這跟大多數科幻電影所設想的AI都相去甚遠。實際上，機器學習是件相當乏味的事情。這項技術自1990年代以來就一直存在，而且它的理論前提自1970年代就開始了。那現在的AI新在哪裡呢？新在大數據、儲存能力以及運算能力的進步和結合。所以，任何爆發式和指數式的技術改進的想法都是沒有根據的。

在出現一些令人興奮的新技術之前，我們可能會停滯數年。所以，請不要把所有的預測雞蛋都放進同一個AI籃子裡面。

4.討論AI的時候正確地用詞很重要

一般來說，克拉克第三定律似乎非常適用我們對AI的討論方式：任何非常先進的技術，初看都與魔法無異。但這不是事實，跟事實差得遠了。這種措辭上的失敗在將來有可能會成為一個問題。

就像前幾篇文章提到過那樣，人工智慧的用詞一直在彌賽亞式的夢想與對世界末日的幻象之間糾纏不清，對「超然」，「使命」，「傳道者」以及「先知」之類的詞彙都進行了重新詮釋。馬斯克本人2014年的時候甚至說過：「人類發展一般人工智慧跟召喚惡魔等同」。這些誇張的詞彙跟那些不知道該說什麼好的人沒什麼分別，就像愛因斯坦和霍金曾經做過一樣，只能在一個熟悉的形而上的詞彙裡面尋求庇護。

儘管偽裝成理論學說的倡導項目可能仍然有用，但我擔心我們可能會因此對AI產生錯誤的想法，因為我們使用的語言已經過時且不適應現實。一旦涉及到魔術之後，任何渴望或害怕的結果都可以輕易推導出來。換句話說，也許我們需要少研究一點人工智慧的「智慧」部分，多思考一下「人工」那部分。

在預測AI的時候，請使用正確的詞彙，以免那群瘋子把你推舉為新的邪教領袖。

5.人工智慧遠沒有人類的智慧強大

而且不會持續很長的時間。

比方說，圍繞著廣泛主題進行的開放式對話還沒有任何進展。據稱是人工智慧能力市場領導者的Google（有著更多的研究人員，更多的數據以及更強大的運算能力），只能產生一種能夠按照非常特定的腳本預約餐廳或理髮師的人工智慧。在經常需要仍共輸入參與的自動駕駛汽車方面，最近也只能得出類似的結論。

一個人可以理解A對B對C的看法是什麼。就處理規模而言，這至少還需要數十年的時間機器才能實現。但從人類的角度來看，這不過是閒聊罷了。正是因為自身存在缺陷，人類反而變得更好，因為推斷、說謊和掩飾自己的真實意圖是沒法透過數據學到的。

對AI做出短期和中期預測時，不要把人工智慧跟人類智能拿來類比。這看起來很愚蠢。

6.人工智慧不是憑空出現的

作為AI的「造物主」，控制機器人的影響力（不管到頭來它的影響力是如何的平庸）是我們的責任，但無論如何，機器人的影響可能是事實。這主要可以透過辨識出對適當、道德、負責任的框架的需求以及哲學邊界來實現。尤其是，需要政府的介入，因為企業不太可能為了社會利益而放棄利潤。

那些預測AI未來狀態的作者必須停止用那種這是不可避免的方式來討論潛在的後果。這會影響那些對自己的數據的使用方式，對機器人方面的規則，以及任何足夠先進的AI的道德規範可以也應該有發言權的人的判斷力。

要大聲說出來。要呼籲進行適當的管制。去投票。所有這些都會以這樣或者那樣的方式對AI產生影響。不要讓矽谷說他們的發明是「價值中立」的。他們開發了它，可以（也應該）在需要的時候對其進行修復。

7.不要像好萊塢那樣

這個世界不太可能在短期內看到自己的HAL / SHODAN / Ultron / SkyNet / GLaDOS帶來末日啟示錄。但是，電影給人的感覺似乎是這件事情在我們有生之年就會出現。

《人造意識》（Ex Machina） ，《我，機器人》（I, Robot），《攻殼機動隊》（Ghost in the Shell），《成人世界》（Chappie） ，《她》（Her）， 《瓦力》（Wall-E），《人工智慧》（AI），《2001太空漫遊》（Space Odyssey），《銀翼殺手》（Blade Runner）……這些作品都表明來好萊塢把智力和智慧給混淆了。AI沒法無視對它的程式編輯。這根本不可能。「機器有靈魂」不是說沒可能，但只能以意想不到的快捷方式出現，比方說AI可能會利用Atari遊戲裡面的bug來作弊。這是意外，但基本都在機器的程式之內，這一點也突出表明了需要對演算法有更好的理解。

好萊塢還忽視了軟體和硬體之間的差別。是，我們有了可以在西洋棋這個項目上擊敗人類的人工智慧，但是人類賽後可以回家喝茶，自己做點IKEA家具，可以去踢足球。那機器人能走嗎？你知道那些笨拙的機器人要花多少錢嗎？好幾百萬！

為了跟好萊塢版AI引發的無限恐懼奮戰，我們需要了解什麼是人工智慧，什麼不是人工智慧。人工智慧成為怪物的可能性非常低。好萊塢已經是怪物了。不要被它的騙局蒙蔽了。

8.我們不想要像人一樣的AI

我們不僅沒法做出自己的天網（SkyNet），而且可能永遠也不想做這樣的東西。

儘管通過圖靈測試對於機器（以及做機器的工程師）來說無疑構成了一個有趣的挑戰，但這其實並不是AI的目標。因為做AI的是我們。人工智慧研究想要開發出可以感知環境並成功實現特定目標的程式，而且在很多情況下，這個目標都不會是冒充成人類。

實際上，冒充人類只會帶來一個邪惡的結果，這就是為什麼我們應該對任何聲稱能夠做到這一點的公司保持警惕的原因所在。做出能夠幫助人類而不是模仿人類的東西要有利可圖得多。

如果製造機器的公司沒法找到合乎道德的方式來提供可觀的投資回報的話，那製造出可以模仿人類的機器又有什麼用呢？

9.大多數的CEO其實跟你一樣困惑

下面幾段引文可以完美地說明很多CEO在行業發生巨變時所遭受的損失有多大：

當亞歷山大·格拉漢姆·貝爾（Alexander Graham Bell）給西聯匯款行長卡爾·奧頓（Carl Orton）開價10萬美元提供電話使用權時，奧頓答道：

「我們公司可以拿這個電子玩具來幹什麼呢？」

幾年後，（1943年）IBM總裁托馬斯·華生（Thomas Watson）開玩笑說：

「我覺得全世界大概只有五台電腦的市場。」

後來儘管市場的確擴大了，數位設備公司（DEC，Digital Equipment Corporation）的創始人Ken Olsen也緊隨華生的後塵，他在1977年的時候說：

「沒有人願意在家裡放一台電腦。」

以及這條我的最愛：2008年在被問到串流媒體的問題時，百視達（Blockbuster） CEO Jim Keyes大聲地宣布：

「不管是RedBox還是Netflix，在競爭方面都我們都沒有看在眼裡。」

人工智慧會改變的不是一個行業，而是會改變所有行業，有時候是大規模的改變，有時只會改變一點點。如果你跟我一樣也是戰略顧問的話，請務必要非常注意自己的措辭。如果你的對話者問你什麼是反向傳播演算法的話，最好從頭開始開始你們的對話。要非常慢。

10.人工智慧沒法解決所有問題

儘管人工智慧會改變所有的行業，但這絕不意味著它會改變一切並拯救世界。如前面所述，我們對AI的能力過於高估了，並往往會賦予它之前沒有的品質。

全球飢餓、戰爭、疾病、全球變暖······所有這些仍然是我們人類的責任，任何人要是推卸責任都應該感到羞恥。在讓機器人為我們解決所有問題之前，我們需要先做出自己的努力：為我們過去所有的這些低效率開脫實在是太容易了。

歸根結底，人工智慧不過是社會，社會的勝利以及不平等的一面黑鏡而已。也許，只是也許，人工智慧研究為我們帶來的最好的收穫不是對技術有了更好的了解，而是對我們自己有了更好的了解。

• 資料來源：10 Rules for Artificial Intelligence Predictions
• 本文授權轉載自36Kr