ADVERTISEMENT
「投資圈裡最會做媒體的，媒體圈裡最會做投資的。」用這句話來形容知名投資機構 a16z 的創始人馬克·安德里森（Marc Andreessen），可以說非常貼切了。
從 Netscape 網景瀏覽器起家，再到之後轉身矽谷知名風投，馬克·安德里森經歷了「.com」、社群媒體、行動網路等多波浪潮，依然活躍到現在。
在 AI 火熱的當下，安德里森 的投資清單上，又加入了 OpenAI、Mobius AI 等公司的名字。
投資之外，這位向來喜歡在社群媒體上分享觀點的「科技樂觀派」，Marc 最近發出了「AI 將拯救世界」的觀點。
當地時間 6 月 29 日，在 Databricks 舉辦的 Data+AI 大會上，馬克·安德里森 與 Databricks CEO 阿里·格哈德西（Ali Ghodsi）進行對談，再度聊了聊他對人工智慧目前發展的看法，以及他為什麼不認為 AI 會給人類帶來生存危機。
Talking Points
- AI 吃掉巨量數據，變成「終極媒體」；
- 下一代人工智慧，會出現更大的模型，「幻覺」問題會被控制；
- 程式設計師不會被 AI 終結，好的工程師可以做更多事；
- AGI 世界末日不會發生，智慧永遠帶來更美好的事物；
- 人工智慧不斷經歷週期，我們生活在最好的時代。
以下為馬克·安德里森在會上發言的文字，經整理編輯：
AI 正在成為「終極媒體」
人工智慧的想法實際上是在上世紀 30 年代和 40 年代已經被提出了。人們在思考人工智慧方面，已經有了大約 80 年的歷程。它似乎一直伴隨著電腦產業和網際網路，人們不斷地找到一些方法，但它從來沒有成為行業的主要事物。
有一本很棒的書 Rise of the Machines 就是講人工智慧的背景故事的。30 年代、40 年代、50 年代的時候，它被稱為控制論。甚至在電子電腦出現之前，約翰·馮紐曼和艾倫·圖靈等人就已經有了爭論。當時他們就知道未來電子電腦一定會被造出來，巴貝奇差分機的概念誕生以來，人們就一直在研究怎麼造電腦。
他們爭論的核心問題實際上是關於電腦的本質：通用電腦是否應該是現在所稱的馮紐曼機，即它應該按照程式設計師的指令以確定性的方式執行指令序列？還是應該基於人腦的模型？神經網路論文發表於 1943 年，當時他們實際上已經知道可以用神經元的方式組建電腦。
當時有不少人爭論說，不，我們不應該使用馮紐曼機，我們應該直接使用腦模型。但是當時沒有晶片、沒有資料，也沒有所有底層技術，所以他們無法實現。
在過去的五年中突然發生了重大突破，這一方式突然之間開始奏效，最有趣的問題之一是為什麼現在會發生這種情況？這與這次會議的主題有很多關聯，其中原因很大一部分是因為資料。事實證明，要使人工智慧發揮作用，需要大量的資料。
我們必須使網際網路規模化，我們必須獲得全球網路的完整文庫，以及輸入搜尋引擎的全面爬蟲資料，我們必須獲得所有的圖像資料，包括 Google 圖像和影像等等，以便訓練這些模型。事實證明，它們確實有效，然後當然，這意味著要使人工智慧的工作更加出色，現在需要提供更多的資料。因此，感覺像是網際網路資料和人工智慧這樣的世界正在碰撞在一起，魔法正在發生。
有一個馬素·麥克魯漢的觀點我很認同。馬素·麥克魯漢是一位著名的媒體理論家，大約 40、50 年前，他說過一句話，每一種媒介都成為下一種媒介的內容。所以他說，當收音機出現時，他們在做什麼呢？他們基本上是在讀報紙文章。當電視出現時，他們做什麼？他們基本上是將線下講演和舞臺劇電視化。當網際網路出現時，它突然變成了一個平臺，可以包括所有以前的媒體形式，包括電視、電影和其他所有東西。
人工智慧就是這個觀點的終極例子，不同媒體形式基本上成為訓練人工智慧的組成部分。現在人工智慧的一個重大突破就是多模態人工智慧的概念。所以，如果你今天使用 ChatGPT，它是基於文本訓練的；如果你使用 Midjourney，它是基於圖像訓練的，但即將發表的新人工智慧將同時基於多種媒體類型進行訓練。因此，你將擁有同時訓練於文本、圖像、影片、結構化資料、文檔和數學方程等多種媒體的人工智慧。
人工智慧將能夠跨越所有這些領域的資料，所有曾經出現過的媒體形式、資料，它們都很重要。
AI 訓練 AI，既能創造，又能運算
前一代的人工智慧還將成為後一代人工智慧的資料來源。出現越來越大、越來越好的人工智慧，
現在的人工智慧研究基本上是如何使用人類創建的資料來訓練人工智慧。然後人類進行所謂的強化學習，他們基本上是在調整人工智慧的結果，但現在很多研究的重點是如何使人工智慧互相教導和訓練。因此，將會出現這種階梯式的、向上級聯的情況，人工智慧實際上會訓練它們的繼任者。
目前的神經網路，是一種新型的電腦，是一種機率性的電腦。這意味著什麼呢？如果你兩次提出同樣的問題，它會給出不同的答案。甚至如果你用不同的方式提問，它也會給出不同的答案。如果訓練資料稍微改變一點，它也會給出不同的答案。如果你誇獎它，或者你告訴它模仿某些著名人物來回答問題，或者你進行各種 prompt engineering，它會給出不同的答案，然後它還能做一件令人驚歎的事情，那就是它會產生幻覺。
如果它不知道答案，它會編造一個答案，人們看到這個情況，工程師思維的人會感到恐懼，但是對於有創造力的人來說，他們會驚歎，哇，電腦實際上能創造東西，我們實際上有一台能創作虛構作品的電腦，這是非常驚人的。
我和很多朋友交流時，他們中的一些人說：「嗯，我不知道我是否可以使用 AI，因為我不確定答案是否正確。」我回答說：「那你是否曾經與人合作過？」如果一個人告訴你一些話，你可能也會在某個時候想要再檢查一遍以確定他們說的東西是不是事實上準確的。但你之所以與其他人交流，是因為他們擁有你沒有的思考方式，他們創造出你沒有的思想。
現在我們同時擁有這兩種電腦：輸出有確定結果的工程師類型的，和能夠創造的類型。
接下來的情況是它們會被整合起來，最終你將得到混合系統。你已經擁有 ChatGPT，如果你向它提問數學或科學問題，它通常會回答錯誤。但是如果你使用 Wolfram Alpha 外掛程式，結合 ChatGPT，它突然開始回答正確。所以我認為現在將會出現一種工程形式，將這兩種運算模型結合起來，你將擁有既能創作又能執行任務的電腦。
AI 不會終結程式設計師
我有一個八歲的孩子，對我來說 AI 發展中最具情感意義的事情是，從現在開始，每個孩子，包括我的孩子和其他所有人的孩子，都將在一個 AI 教師、教練、導師、顧問的指導下成長。它將在他們的整個生命中與他們同在，並盡一切可能確保每個人都能充分發揮自己的潛力。
大約一個月前，我向我八歲的孩子介紹了 ChatGPT，並在他的筆記型電腦上安裝了它。我告訴他，你可以問它任何問題，它會回答你的任何問題。他說：「好吧，當然了，電腦不就是做這個用的嗎？它當然會回答你所有的問題。」儘管他沒有理解其中的重要性，但我理解其中的重要性。我記得電腦行業為了實現能夠回答任何問題這一點所做的每一步，而對他來說，這是顯而易見的。我認為孩子們將在一個非常不同、更好的世界中成長。
我傾向於認為真正優秀的程式設計師，未來仍然需要長時間的訓練和理解程式設計的基本原理，就像真正優秀的數學家仍然需要接受數學培訓，即使有了計算機一樣。所以真正優秀的程式設計師仍然會從底層完全理解一切，但是他們會比以前更加高效，他們將能夠在他們的職業生涯中做更多的事情。
未來大多數程式設計師的工作，會提升一個層次。作為一個程式設計師，越來越多的工作將會像是一個程式設計師的經理，而不僅僅是自己編寫所有的程式碼。我們都是經理，去管理 AI。
現在，我們使用類似 GitHub Copilot 這樣的工具，AI 在幫助提出建議、修復 bug 等等。隨著這些系統變得更加複雜，作為一個程式設計師，你將能夠給它們更複雜的任務。你將能夠直接跟它們說寫這段程式碼，寫那段程式碼，做這個，做那個，然後它將離開並執行，並向你報告。
我猜測，今天你是一個人和一個 AI Copilot 的配對。我猜測將來將會是一個人和一個以上的這些 AI Copilot 的配對。也許從兩個開始，然後基本上是五個和十個。也許非常熟練的程式設計師，將會有 1000 個這樣的 AI 系統。然後，作為其結果，你基本上將能夠有效地監督一支 AI 部隊，然後問題就在於你能將多少時間、注意力和精力上投入到這個整體的監督中。
很多不能程式設計的人也將能夠真正地有效地進行程式設計。這種趨勢長期以來一直存在，誕生了很多低程式碼、無程式碼工具，使普通人能夠編寫程式而不需要電腦科學學位，我認為這種趨勢將會被加速推動。所以我認為很多非專業的程式設計師將能寫程式。
經濟學中有一個經典的謬論，被稱為「工作總量的謬論」(lump-of-labour-fallacy)：，這是一種零和的世界觀，認為有一定數量的工作需要完成，如果機器完成了工作，那人類就沒有什麼事情可做了。實際上，發生的情況恰恰相反。基本上，當機器能夠代替人類完成工作時，你實際上是讓人們解放出來去做更有價值的事情。
對的。所以曾經有一個時代，99% 的人基本上是農民。然後在工業革命後，有一段時間，99% 的人在工廠工作。而今天，從我們的角度來看，在農場和工廠工作的人所占的比例要小得多，但總體上工作職位卻更多，因為產生了許多新的需求，並創造了許多新的企業和行業。因此，我認為這將帶來巨大的經濟增長，進而帶來大量的就業增長和薪資增長。
此外，程式設計具有這樣的特性，基本上世界永遠不會對它感到滿足。總是有更多的程式需要編寫。總是有更多的事情需要程式碼來完成。每個人都知道，每個在商業中的人都知道這一點。沒有人會對他們希望軟體實現的想法感到滿足。他們缺乏的是實際構建他們所需軟體的時間和資源。所以我猜想，會有大量的軟體產生，並且最終會有很多人從事軟體發展工作。
不存在毀滅人類的「邪惡 AI」
在人類歷史上有這樣一種想法反復出現，即出現一些根本上改變人類體驗的東西，然後它要嘛會導致烏托邦，也就是我們稱為「奇點」的概念，要嘛就會創造反烏托邦，創造地獄般的地球，一切都變得糟糕透了。我是一個工程師出身，對我來說，這聽起來非常像科幻情節。所以我不認為實際情況是這樣的。
柏克萊的一個人提出的觀點我很喜歡，他把我們作為一個物種、作為一個文明所做的事情稱為「Slouching Towards Utopia（慢慢地走向烏托邦）」。我非常喜歡這個詞，它的意思是，基本上事情一直在逐漸變好，比如物質福利、健康和智力等方面，人們的能力一直在逐漸提高，但它們並沒有以一種導致實際的、字面意義上的烏托邦的方式變得更好，但我們正在逐漸邁向烏托邦，儘管在我們在不完美、有缺陷和墮落的世界中，我們仍然設法在一定程度上改善世界。所以這種態度是一種謹慎的樂觀，而不是激進的形式。
目前對於人工智慧帶來世界末日有兩種觀點。一種觀點是人工智慧會宣布自己的目標。就像「魔鬼終結者」的情節，它會在某一天醒來，決定恨我們。對此，我的回答是，它不像人一樣，它不具備意識，沒有意願，沒有這些東西。
然後還有另一種觀點，所謂的「人工智慧末日論者」，他們認為人工智慧不需要自我意識或任何形式的自我也能創造出毀滅人類的情景。
比如那篇著名的「迴紋針優化器」論文，它假定了這樣的場景，有人告訴人工智慧製造迴紋針後，然後人工智慧就決定需要將地球上的所有原子轉化為迴紋針，包括太陽光，所有人體內的原子，都轉化為迴紋針。為了最大化世界上迴紋針的數量，它將開發自己的能源，掌握核聚變技術，擁有自己的太空站，擁有自己的機器人軍隊。它將盡一切手段來最大化迴紋針的數量。
我就在想，到底這樣它是有自由意志還是沒有自由意志，這個例子很怪。而且我們還要考慮實際的限制。它將從哪裡獲取晶片來運行複雜的演算法，製造所有的迴紋針呢？因為就在今天，我們甚至無法獲得晶片來運行我們創業公司中的人工智慧。
我想，也許現在在 Databricks 的實驗室中已經有了一個邪惡的嬰兒人工智慧，想要統治世界，於是它已經向 Nvidia 發出了採購訂單，但是，它根本沒有得到晶片（笑）。我認為我們應該等待看看那些邪惡的嬰兒人工智慧出現之後，再過多地擔心大型的人工智慧。
對人工智慧持樂觀態度的原因是因為它涉及到智能的概念。我們對人類智慧有很多瞭解，人類智慧一直是社會科學家們在過去一個世紀裡研究的最重要的主題之一。事實上，當涉及到人類時，智慧會讓一切變得更好。這是一個非常重要的論述，但事實證明有大量的研究來支持這個觀點。
智慧基本上意味著人們將會更出色。具有更高智慧的人在學業上更成功，他們的職業生涯更成功。他們的孩子更成功。他們更健康，壽命更長。他們也更不暴力。他們更善於處理衝突，更善於解決棘手的問題。順便說一下，他們更少有偏見，更開放思維，更接受新觀念。所以基本上，將智慧應用於人類，就是讓一切變得更好的一件事。
我們周圍的世界，包括能夠在這樣的空間中相聚和彼此交流，以及我們所做的一切其他工作，都不是我們在某個早晨醒來時，所有這些美妙的建築、電力和其他一切就等待著我們了，而是人類透過應用智慧來一步步建造的。
我們用智慧構建了我們喜歡的一切，使世界運轉起來。但我們一直受限於我們自己的能力或資料能力。現在我們有機會將機器智慧應用於所有這些努力中，提升每個人在世界上做事的能力。
研究 AI 的人類都是英雄
從 20 世紀 40 年代開始，人工智慧科學家們基本上在沒有真正獲得報酬的情況下，工作了 80 年。我記得我在大學的時候學習電腦科學和人工智慧方面。當時人工智慧就像是一個邊緣領域，是被質疑的理論。
在 80 年代曾經有一次人工智慧的繁榮，但沒有成功。那是一個泡沫破滅，非常糟糕的時期。所以到了 80 年代末，人工智慧已經被嚴重懷疑。這已經是第四次這樣的週期了。人們對人工智慧有很多希望，但最終卻沒有實現。
那時候的人工智慧科學家在人工智慧和電腦科學部門以及實驗室裡工作，出生、成長、獲得博士學位、成為教授，教授人工智慧 30 年後退休，努力一輩子可能都沒有什麼可以展示出來的大的成果。其中很多人已經去世了。
他們當時根據一套理論和想法去做研究，我們現在知道這些想法是可行的，但這中間花費了 80 年的時間。這種決心、遠見、勇氣、洞察力和頑強精神，投身於一個你永遠得不到回報的領域，當時的人們會懷疑他們是否不是非常清醒，認為這項工作不會奏效。但現在我們知道這些想法是可行的，我們就會驚訝，哇，他們看到了未來，他們一直真正理解了應該怎麼做，只是需要時間，整個過程才能有所回報。我把他們歸為傳奇人物類別。
我認為現在在努力推動AI的人，可以被歸為英雄類別。整個從事 AI 研究的人群，包括今天參加大會的所有人。
我特意使用英雄這個詞，因為我們在文章中討論過，我們現在處在這種文化時刻——人們對每件事都非常生氣。我不知道人們是否注意到，但現在很多人心情都不好，對很多事情都有不滿。世界都陷入了某種情緒低潮。
因此，任何新事物一出現，立刻就會出現爭論，說它有多糟糕、多可怕，它將摧毀世界，它將破壞一切，讀讀報紙報導，發生的事情看起來就像是一場災難。所以我認為，任何透過這項技術來使世界變得更美好的人，他們正在做的事情，我認為他們是英雄。
人們工作了幾百年，現在終於能夠收穫這些人工智慧好處。所以我們現在真的很幸運。你們每個人都可以成為未來的英雄。
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！