ADVERTISEMENT
去年底，OpenAI 「匆忙」推出了它的現象級產品 ChatGPT，隨後卻意想不到地引發了自網際網路進入大眾生活以來前所未有的技術爆炸。突然間，圖靈測試貌似要成為歷史，搜尋引擎也瀕臨「滅絕」，一些學術論文開始變得不可信，沒有一份工作是安全的，沒有一個科學問題是一成不變的。
OpenAI、山姆‧阿特曼和 ChatGPT 瞬間成為這個時代最火熱的搜尋詞之一，幾乎所有人都為之瘋狂。那麼，你是否瞭解 山姆‧阿特曼和 OpenAI 的成長故事呢？
近日，知名科技記者史蒂芬·列維（Steven Levy）在美國數位媒體 WIRED 發表了一篇長文，圍繞山姆‧阿特曼（Sam Altman），就 OpenAI 公司的成長史和公司願景展開了深度討論。核心內容如下：
作為 OpenAI 的首席執行長，一個夢想家或實業家類型的人，山姆‧阿特曼就像年輕版的伊隆‧馬斯克（Elon Musk），他是人們在 AI 如何迎來黃金時代，或使人類變得無關緊要，或更糟的問題上首先要諮詢的人物。山姆‧阿特曼和 OpenAI 的使命是建立安全的 AGI，OpenAI 的員工對這一目標的追求是狂熱的。OpenAI 的領導者們發誓，他們要製造出足夠智慧、足夠安全的電腦，將人類帶入一個難以想像的富饒時代。
山姆‧阿特曼和他的團隊現在面臨的壓力是，要在每個產品週期內實現革命，既要滿足投資者的商業需求，又要在激烈的競爭中保持領先。與此同時，他們還肩負著提升人類而非消滅人類的「准救世主」的使命。OpenAI 前期的資金支持來源於 伊隆‧馬斯克，後來阿特曼和 OpenAI 的其他智囊團成員明確表示對成為 伊隆‧馬斯克 宇宙的一部分毫無興趣。Musk 便切斷了聯繫。後來，OpenAI 得到了微軟的支援，逐漸有了營利性機構的性質，這讓一些員工感到反感，進而導致幾位高階管理人員離職，他們表示，OpenAI 已經變得過於商業化，成為使命漂移的犧牲品。山姆‧阿特曼原則上贊同由一個國際機構來監督 AI 的想法，但他確實認為一些擬議的規則構成了不公平的障礙。但他和 OpenAI 的其他領導人在一份聲明上簽上了自己的名字，聲明內容為：減輕 AI 帶來的滅絕風險，應該與大流行病和核戰爭等其他社會規模的風險一樣，成為全球的優先事項。
本文在不改變原文大意的情況下，做了簡單的編譯，內容如下：
當這位明星和他的隨行人員跌跌撞撞地鑽進一輛等候多時的賓士麵包車時，空氣中迸發出近乎披頭士狂熱的能量。他們剛剛從一個活動中脫身，又要趕往另一個活動，然後是另一個活動，那裡有一群狂熱的人們在等著他們。從霍爾本（Holborn）到布盧姆斯伯里（Bloomsbury），他們在倫敦的大街小巷中穿梭，就像在經歷文明的前世今生。這輛車所蘊含的創造歷史的力量吸引了全世界的目光。從排隊等候的學生到首相，每個人都想從中獲得一些什麼。
在這輛豪華麵包車裡，正狼吞虎嚥地吃著沙拉的是 38 歲的企業家、OpenAI 的聯合創始人山姆‧阿特曼，以及一名公關人員、一名安全專家和我本人。阿特曼身著藍色西裝，內搭一件無領粉色禮服襯衫，略顯抑鬱地在倫敦兜風，這是他為期一個月的全球短途旅行的一部分，途經六大洲的 25 座城市。因為今天沒時間坐下來吃午餐，所以他一邊狼吞虎嚥地吃著蔬菜，一邊回想著前一晚與法國總統馬克宏的會面。馬克宏對 AI 非常感興趣。
波蘭首相也是如此。西班牙首相也是如此。
和阿特曼一起坐車，我幾乎能聽到《一夜狂歡》（A Hard Day’s Night）開篇那鏗鏘有力、含糊不清的和絃——那是對未來的介紹。去年 11 月，當 OpenAI 推出它的怪物級產品 ChatGPT 時，引發了自網際網路進入我們生活以來前所未有的技術爆炸。突然間，圖靈測試成為歷史，搜尋引擎瀕臨滅絕，任何大學論文都不可信。沒有一份工作是安全的。沒有一個科學問題是一成不變的。
阿特曼並沒有參與 ChatGPT 及其 GPT-4 的研究、神經網路訓練或介面編碼。但作為首席執行長——一個夢想家/實幹家類型的人，他就像年輕版的聯合創始人伊隆‧馬斯克，沒有包袱——一篇又一篇的新聞報導用他的照片作為人類新挑戰的視覺象徵。至少，那些沒有用由 OpenAI 的視覺 AI 產品 Dall-E 生成的令人瞠目的圖像作為頭條的文章是如此。他是當下的先知，是人們在 AI 如何迎來黃金時代，或使人類變得無關緊要，或更糟的問題上首先要諮詢的人物。
五月的一個陽光明媚的日子，阿特曼的麵包車載著他去參加了四次活動。第一場是與政府、學術界和工業界人士進行的一場不公開的「圓桌會議」（Round Table）。會議是在最後一刻組織的，地點在薩默斯鎮咖啡館的二樓。在釀酒師 Charles Wells 炯炯有神的肖像下，阿特曼向幾乎所有聽眾提出了同樣的問題。AI 會殺死我們嗎？它能被監管嗎？他都一一作了詳細回答，同時還不時瞄一眼自己的手機。之後，他在豪華的倫敦人酒店與牛津公會的 600 名會員進行了一次爐邊談話。之後，他來到地下室會議室，回答約 100 名企業家和工程師提出的更多技術問題。現在，他下午在倫敦大學學院的臺上演講幾乎要遲到了。他和他的團隊停在一個裝卸區，然後被帶進一系列蜿蜒曲折的走廊。一邊走，主持人一邊匆匆告訴 阿特曼他要問的問題。當阿特曼突然出現在舞臺上時，觀眾席上的學者、極客和記者們沸騰了。
阿特曼並不是一個天生的宣傳狂。有一次，在《紐約客》刊登了一篇關於他的長篇報導後，我立即與他進行了交談。他說：「關於我的報導太多了」。但在大學學院，正式活動結束後，他走進了湧向台下的人群中。他的助手試圖夾在阿特曼和人群之間，但被他甩開了。他回答了一個又一個問題，每次都聚精會神地盯著對話者的臉，仿佛他是第一次聽到這樣的提問。每個人都想拍照。20 分鐘後，他終於讓他的團隊把他拉了出來。然後，他又去見了英國首相里希·蘇納克（Rishi Sunak）。
也許有一天，當機器人書寫我們的歷史時，他們會把阿特曼的世界巡演作為一個里程碑，因為在這一年裡，所有人都在同一時間開始進行自己的個人思考。又或者，無論誰來書寫這一刻的歷史，都會把它看作是一位默默無聞的令人信服的首席執行長，帶著一項打破典範的技術，嘗試將一種非常奇特的世界觀注入全球的思想潮流——從舊金山使命區一個沒有標誌的四層樓總部到整個世界。
對阿特曼和他的公司來說，ChatGPT 和 GPT-4 只是實現一個簡單而重大使命的「墊腳石」，這些技術專家可能已經在自己的肉體上烙下了這個使命。這個使命就是建立通用人工智慧（AGI），迄今為止，這個概念更多地是建立在科幻小說而非科學的基礎上，而且要讓它對人類安全。OpenAI 的員工對這一目標的追求是狂熱的。（不過，在辦公室咖啡廳裡的任何一次談話都會證實，「構建 AGI」這一點似乎比「確保安全」更能讓研究人員感到興奮）。這些人並不避諱隨意使用「超級智慧」這個詞。他們認為，AI 的發展軌跡將超越生物學所能達到的任何高峰。該公司的財務檔甚至規定了一種退出應急方案，以防 AI 摧毀我們的整個經濟體系。
稱 OpenAI 為邪教（cult）並不公平，但當我問公司的幾位高層，如果有人不相信 AGI 真的會到來，而且它的到來將標誌著人類歷史上最偉大的時刻之一，他們是否能在這裡安心工作時，大多數高階管理人員都不這麼認為。他們不禁要問，不相信的人為什麼要在這裡工作？他們的假設是，這裡的員工，現在大約有 500 人已經自我選擇了只做信徒。至少，正如阿特曼所說，一旦你被錄用，似乎就不可避免地會被捲入這個魔咒。
與此同時，OpenAI 也已今非昔比。它成立之初是一家純粹的非營利性研究機構，但如今，從技術上講，它的大部分員工都在為一家據說估值近 300 億美元的盈利實體工作。阿特曼和他的團隊現在面臨的壓力是，要在每個產品週期內實現革命，既要滿足投資者的商業需求，又要在激烈的競爭中保持領先。與此同時，他們還肩負著提升人類而非消滅人類的准救世主使命。
這種壓力會讓人崩潰。披頭士掀起了巨大的變革浪潮，但只持續了這麼短的時間：在敲響那令人難忘的和絃六年後，他們甚至不再是一支樂隊。
OpenAI 引發的漩渦幾乎肯定會更大。但 OpenAI 的領導者們發誓，他們將堅持到底。他們說，他們要做的就是製造出足夠智慧、足夠安全的電腦，終結歷史，將人類帶入一個難以想像的富饒時代。
阿特曼成長於上世紀 80 年代末 90 年代初，是一個沉迷於科幻小說和《星際大戰》的書呆子。在早期科幻小說家構建的世界中，人類往往與超級智慧 AI系統共同生活，或與之競爭。電腦與人類能力相匹配或超越人類能力的想法讓阿特曼興奮不已，他的手指幾乎無法觸及鍵盤，但他一直在編碼。8 歲時，父母給他買了一台 Macintosh LC II。一天晚上，他玩到很晚，腦子裡突然冒出一個想法：「總有一天這台電腦會學會思考」。
2003 年，當他來到史丹佛大學讀大學時，他希望能説明實現這一目標，並選修了 AI 課程。但「這根本行不通」，他後來說。當時，AI 領域仍深陷創新低谷，被稱為「AI 寒冬」。阿特曼退學後進入了初創公司領域；他的公司 Loopt 是 Y Combinator 的第一批小公司，Y Combinator 後來成為世界上最著名的育成中心。
2014 年 2 月，YC 的創始人 Paul Graham 選擇當時 28 歲的阿特曼接替自己。Graham 在公告中寫道：「他是我所認識的最聰明的人之一，他對初創企業的理解可能超過我認識的任何人，包括我自己。」但在阿特曼看來，YC 不僅僅是一個公司的啟動平臺。「我們與初創企業無關，」他在上任後不久對我說，「我們的目標是創新，因為我們相信，只有創新才能為每個人創造美好的未來。」在阿特曼看來，從所有這些獨角獸企業中套現的意義不在於裝滿合夥人的錢包，而在於為物種層面的變革提供資金。他成立了一個研究部門，希望為雄心勃勃的項目提供資金，以解決世界上最大的問題。但在他看來，AI 才是顛覆一切的創新領域：一個能比人類更好地解決人類問題的超級智慧。
幸運的是，阿特曼就任新職時，AI 的冬天正變成豐收的春天。現在，電腦正在透過深度學習和神經網路完成令人驚歎的壯舉，比如給照片貼標籤、翻譯文本和最佳化複雜的廣告網路。這些進步讓他相信，AGI 第一次真正觸手可及。然而，把它交到大公司手中卻讓他感到擔憂。他認為這些公司會過於專注於自己的產品，而無法抓住機會儘快開發出 AGI。而且，如果他們真的創造出了 AGI，他們可能會不計後果地在沒有採取必要預防措施的情況下將其公之於眾。
當時，阿特曼一直在考慮競選加利福尼亞州州長。但他意識到，他完全有能力做更大的事情——領導一家將改變人類本身的公司。2021 年，他告訴我：「AGI 將只建造一次。而且，能夠很好地營運 OpenAI 的人並不多。我很幸運，我生命中的一系列經歷讓我真正積極地為此做好了準備。」
阿特曼開始與那些可能幫助他創辦一家新型 AI 公司的人交談，這家非營利性公司將引導 AI 領域走向負責任的 AI。特斯拉和 SpaceX 公司首席執行長 伊隆‧馬斯克 就是其中一位志同道合者。Musk 後來告訴 CNBC，在與谷歌聯合創始人 Larry Page 進行了一些馬拉松式的討論後，他開始關注 AI 的影響。Musk 說，令他感到沮喪的是，Page 對安全問題關注甚少，而且似乎把機器人的權利視為與人類平等。當 Musk 說出自己的擔憂時，Page 指責他是一個「物種主義者」。Musk 也明白，當時Google雇傭了世界上大部分的 AI 人才。他願意花一些錢，為「人類團隊」做出更多努力。
幾個月內，阿特曼就從 Musk（承諾提供 1 億美元和他的時間）和 Reid Hoffman（捐贈 1 千萬美元）那裡籌到了資金。其他資助者包括 Peter Thiel、Jessica Livingston、Amazon網路服務公司（Amazon Web Services）和 YC Research。阿特曼開始秘密招募團隊成員。他將搜尋範圍限制在 AGI 信徒身上，這一限制縮小了他的選擇範圍，但他認為這一點至關重要。他說：「早在 2015 年，當我們進行招聘時，對於 AI 研究人員來說，說你認真對待 AGI 幾乎被認為是職業生涯的殺手。但我想要的是認真對待它的人。」
Stripe 公司的首席技術長格雷格·布羅克曼就是其中之一，他同意擔任 OpenAI 的首席技術長。另一位重要的聯合創始人是安德烈·卡帕斯（Andrej Karpathy），他曾在搜尋巨頭谷歌的尖端 AI 研究機構 Google Brain 工作過。不過，阿特曼最炙手可熱的目標或許是一位名叫伊爾亞‧蘇茲克維的工程師。
蘇茲克維是傑佛瑞·辛頓（Geoffrey Hinton）的得意門生，辛頓在深度學習和神經網路方面的研究成果被譽為現代 AI 教父。辛頓至今仍與蘇茲克維持著密切的關係，他對自己弟子的聰明才智讚歎不已。
蘇茲克維在實驗室任職初期，辛頓曾交給他一個複雜的項目。蘇茲克維厭倦了編寫程式碼來進行必要的計算，他告訴蘇茲克維，如果他為這項任務編寫一種定制的程式設計語言，會更容易些。辛頓有點惱火，試圖警告他的學生不要去做他認為會讓他分心一個月的事情。然後，蘇茲克維坦白地說：「我今天早上就做了」。
蘇茲克維成為了 AI 領域的超級明星，他與他人合作撰寫了一篇突破性論文，展示了 AI 如何透過接觸大量資料來學習識別圖像。最終，他成為了 Google Brain 團隊的一名核心科學家。
2015 年年中，阿特曼發了一封冷冰冰的郵件給蘇茲克維，邀請他與馬斯克、布羅克曼等人在帕洛阿爾托沙山路的豪華 Rosewood 酒店共進晚餐。直到後來，蘇茲克維才知道自己是晚宴的貴賓。他說：「這是一次關於未來 AI 和 AGI 的對話。更具體地說，他們討論了「Google和 DeepMind 是否已經遙遙領先，以至於不可能追上它們，或者是否還有可能像馬斯克所說的那樣，創建一個實驗室來制衡它們」。雖然晚宴上沒有人明確試圖招募蘇茲克維，但這次談話吸引了他。
不久，蘇茲克維寫了一封郵件給阿特曼，表示他願意領導這個專案，但這封郵件卻卡在了他的草稿箱裡。阿特曼回信後，經過幾個月與Google的還價，蘇茲克維簽下了合約。他很快就成為了公司的靈魂人物和研究的推動力。
蘇茲克維與阿特曼和馬斯克一起為該專案招兵買馬，最終在納帕谷的一次務虛會上，幾位未來的 OpenAI 研究人員互相鼓勁。當然，有些人會抵制誘惑。約翰·卡馬克（John Carmack）是《毀滅戰士》（Doom）、《雷神之錘》（Quake）等無數遊戲的傳奇程式設計師，他拒絕了阿特曼的邀請。
OpenAI 於 2015 年 12 月正式啟動。當時，當我採訪馬斯克和阿特曼時，他們向我介紹說，這個項目旨在透過與世界共用，讓 AI 變得安全、易用。換句話說，就是開源。他們告訴我，OpenAI 不會申請專利。每個人都可以利用他們的突破。這不是把這些能力授權給了未來的邪惡博士嗎？我想知道。馬斯克說這是個好問題。但阿特曼給出了答案：人類一般都是善良的，而由於 OpenAI 將為絕大多數人提供強大的工具，因此壞人將不堪一擊。他承認，如果「邪惡博士」利用這些工具製造出無法抵制的東西，「那我們的處境就真的很糟糕了」。但馬斯克和阿特曼都認為，AI 更安全的發展方向是掌握在不受利益驅動污染的研究機構手中。
阿特曼提醒我不要期望很快就有結果。他說：「在很長一段時間裡，這裡都會像一個研究實驗室。」
降低期望值還有另一個原因。Google和其他公司多年來一直在開發和應用 AI。雖然 OpenAI 已投入 10 億美元（主要來自馬斯克），擁有一支由研究人員和工程師組成的王牌團隊，並且肩負著崇高的使命，但它對如何實現目標毫無頭緒。阿特曼還記得小團隊聚集在布羅克曼公寓裡的一個時刻，當時他們還沒有辦公室。「我當時想，我們該怎麼辦？」
OpenAI 成立一年多後，我在舊金山與布羅克曼共進午餐。作為一家名字中帶有「Open」一詞的公司的首席技術長，他對細節的描述相當吝嗇。
他確實肯定，這家非營利組織有能力在一段時間內動用最初的十億美元捐款。25 名員工的薪水——他們的薪水遠低於市場價值——占了 OpenAI 支出的大部分。他說：「我們的目標，也是我們真正在推動的事情，就是讓系統能夠完成人類以前無法完成的事情。」但目前看來，這只是一群研究人員在發表論文。採訪結束後，我陪他去了公司位於使命區的新辦公室，但他只允許我走到前廳。他倒是躲進衣櫃裡拿了件 T 恤給我。
如果我當時進去打聽一下，也許就能知道 OpenAI 究竟有多艱難。
布羅克曼現在承認，「沒有什麼是行得通的。」它的研究人員把演算法麵條扔到天花板上，看看什麼能黏住。他們鑽研解決電元遊戲的系統，並在機器人技術上花費了大量精力。阿特曼說：「我們知道我們想做什麼。我們知道為什麼要這麼做。但我們不知道怎麼做。」
但他們相信。使用深度學習技術的人工神經網路不斷改進，為他們的樂觀情緒提供了支持。「總的想法是，不要對深度學習下注，」蘇茲克維說。他說，追逐人工智慧「並非完全瘋狂。它只是適度瘋狂而已」。
OpenAI 的崛起之路真正始於它聘請了一位尚未被人熟知的研究員亞力克·瑞德佛（ Alec 瑞德佛）。2016 年，瑞德佛離開了他在宿舍裡共同創辦的波士頓一家小型 AI 公司，加入了 OpenAI。在接受 OpenAI 的邀請後，他告訴他的高中校友雜誌，擔任這個新職位「有點類似於加入一個研究生專案」——一個研究 AI 的開放式、低壓力的棲息地。
他實際扮演的角色更像是賴利‧佩吉（Larry Page）發明了 PageRank。
瑞德佛對媒體諱莫如深，從未就自己的工作接受過採訪，他透過一封很長的電子郵件回答了我關於他在 OpenAI 早期工作的問題。他最大的興趣是讓神經網路與人類進行清晰的對話。這與製作聊天機器人的傳統腳本模式不同，從原始的 ELIZA 到流行的 Siri 和 Alexa，都採用了這種方法，但都很糟糕。他寫道：「我們的目標是看看是否有任何任務、任何環境、任何領域、任何事情，語言模型都能派上用場。」他解釋說，當時，語言模型被視為新奇的玩具，只能偶爾產生一個有意義的句子，而且只有在你真的眯起眼睛的情況下才能生成。他的第一個實驗是掃描 20 億條 Reddit 評論來訓練語言模型。和 OpenAI 的許多早期實驗一樣，這個實驗失敗了。沒關係。這位 23 歲的年輕人獲得了繼續前進、再次失敗的許可。布羅克曼說：「我們當時就想，亞力克很棒，就讓他做自己的事情吧。」
他的下一個重要實驗是受 OpenAI 電腦能力的限制而形成的，這一限制導致他在一個較小的資料集上進行實驗，該資料集專注於單一領域——Amazon產品評論。一位研究人員收集了大約 1 億條評論。瑞德佛訓練了一個語言模型，以簡單預測產生使用者評論的下一個字元。
但後來，該模型自己就能判斷出評論是正面的還是負面的——當你對模型進行程式設計，讓它創建正面或負面的評論時，它就會按照你的要求發表一篇或讚美或抨擊的評論。（誠然，這篇散文很笨拙：「我喜歡這種武器造型......喜歡西洋棋的男人必看！」）。瑞德佛說：「這完全出乎意料」。評論的情感，它的好惡，是一個複雜的語義函數，但瑞德佛系統的一部分已經對此有了感覺。在 OpenAI 內部，這部分神經網路被稱為「無監督情感神經元」（unsupervised sentiment neuron）。
蘇茲克維和其他人鼓勵瑞德佛將他的實驗擴展到Amazon評論之外，利用他的洞察力訓練神經網路就廣泛的主題進行對話或回答問題。
然後，好運降臨到了 OpenAI 身上。2017 年初，一篇由 8 位谷歌研究人員合著的研究論文的預印本出現了，但並未引起人們的注意。這篇論文的正式標題是「Attention Is All You Need」，但它後來被稱為「Transformer 論文」，這樣命名既是為了反映這個想法改變遊戲規則的性質，也是為了紀念從卡車變形為巨型機器人的玩具。Transformer 使神經網路能夠更高效地理解和生成語言。他們透過並行分析散文塊，找出哪些元素值得關注。這極大地最佳化了產生連貫文本以回應提示的過程。最終，人們意識到，同樣的技術也可以生成圖像甚至影片。雖然該論文後來被稱為當前 AI 狂潮的催化劑，可以把它想像成讓披頭士樂隊成為可能的貓王，但在當時，伊爾亞‧蘇茲克維只是少數幾個瞭解這一突破有多麼強大的人之一。
布羅克曼說：「當 Ilya 看到 Transformer 出現時，才是真正的頓悟時刻。他說，『這就是我們一直在等待的。』這就是我們的策略——努力解決問題，然後堅信我們或這個領域中的某個人會設法找出缺失的成分。
瑞德佛開始試驗 Transformer 結構。他說：「我在兩周內取得的進展超過了過去兩年的進展。他逐漸明白，要想最大限度地利用新模型，關鍵在於擴大規模——在超大規模的資料集上進行訓練。這個想法被瑞德佛的合作者雷旺‧柴德（Rewon Child）稱為「Big Transformer」。
這種方法需要改變 OpenAI 的企業文化，也需要專注於它以前所缺乏的。
Quora 首席執行長亞當·安捷羅（Adam D'Angelo）是 OpenAI 的董事會成員，他說：「為了利用 Transformer 的優勢，你需要擴大它的規模。你需要把它辦得更像一個工程組織。你不能讓每個研究人員都做自己的事，訓練自己的模型，做出可以發表論文的優雅的東西。你必須做這些更乏味、不那麼優雅的工作」。他補充說，這是 OpenAI 能夠做到的，也是其他人做不到的。
瑞德佛和他的合作者給他們創建的模型起的名字是「generatively pretrained transformer」——GPT-1 的縮寫。最終，這個模型被通稱為「生成式 AI」。為了建立這個模型，他們收集了 7000 本未出版的書籍，其中很多都是浪漫、奇幻和冒險類型的書籍，並在 Quora 問答以及初中和高中考試的數千段文章中對其進行了完善。總之，該模型包含 1.17 億個參數或變數。該模型在理解語言和生成答案方面的表現優於之前的所有模型。
但最引人注目的結果是，在處理如此大量的資料後，模型能夠提供超出其訓練的結果，在全新的領域提供專業知識。這些計畫外的機器人能力被稱為「零樣本」。它們仍然令研究人員感到困惑——這也是該領域許多人對這些所謂的大型語言模型感到不安的原因。
瑞德佛還記得在 OpenAI 辦公室的一個深夜。「我只是一遍又一遍地說：『嗯，這很酷，但我很確定它做不了 X。』然後我會快速編寫一個評估碼，果然，它可以做到 X。」
GPT 的每一次反覆運算都會做得更好，部分原因是每一次反覆運算所吞噬的資料都比前一個模型多出一個數量級。創建第一個反覆運算模型僅一年後，OpenAI 就在開放網際網路上用 15 億個驚人的參數訓練了 GPT-2。就像蹣跚學步的孩子掌握語言一樣，它的反應越來越好，越來越連貫。以至於 OpenAI 在是否將該程式公之於眾的問題上猶豫不決。瑞德佛擔心它會被用來產生垃圾郵件。他說：「我記得在 2008 年讀過尼爾·史蒂文森（Neal Stephenson）的《Anathem》，在那本書中，網際網路上充斥著垃圾郵件產生器。我當時覺得這太牽強了，但隨著這些年我對語言模型的研究和它們的改進，我不自覺地意識到這確實是一種可能。」
事實上，OpenAI 的團隊開始覺得，把自己的工作放在邪惡博士可以輕易造訪的地方，畢竟不是一個好主意。首席技術長米拉·穆拉蒂說：「我們認為，開源 GPT-2 可能真的很危險，」她於 2018 年開始在該公司工作。
「我們與錯誤資訊專家一起做了大量工作，並組建了一些紅隊。內部就發表多少資訊進行了大量討論。」最終，OpenAI 暫時保留了完整版本，向公眾提供了一個功能較弱的版本。當該公司最終分享完整版本時，全世界都很順利，但無法保證更強大的模型能夠避免災難。
OpenAI 正在製造智慧到足以被視為危險的產品，並且正在想方設法確保它們的安全，這一事實本身就證明了公司的魔力正在發揮作用。
蘇茲克維說：「我們已經找到了進步的公式，也就是現在每個人都知道的公式——深度學習的氧氣和氫氣就是透過大型神經網路和資料進行運算。」
對阿特曼來說，這是一次顛覆性的體驗。「如果你問 10 歲的我——曾經花很多時間做 AI 白日夢的我——未來會發生什麼，我會非常自信地預測：首先，我們會有機器人，它們將從事所有體力勞動。然後，我們將擁有能夠從事基本認知勞動的系統。在此之後的很長一段時間裡，也許我們會擁有能夠完成複雜工作的系統，比如證明數學定理。最後，我們將擁有能夠創造新事物、製作藝術品、寫作以及做這些深入人類生活的事情的 AI。這是一個可怕的預測，它正朝著另一個方向發展。」
全世界都還不知道，但阿特曼和馬斯克的研究實驗室已經開始攀登，似是而非地向 AI 的頂峰匍匐前進。OpenAI 背後的瘋狂想法突然變得不那麼瘋狂了。
2018 年初，OpenAI 開始卓有成效地關注大型語言模型。但 伊隆‧馬斯克並不滿意。他覺得進展不夠，或者說，他覺得既然 OpenAI 已經有了進展，就需要領導力來抓住優勢。又或者，正如他後來解釋的那樣，他覺得安全應該更優先。不管他的問題是什麼，他都有一個解決方案：把一切都交給他。他提議持有該公司的多數股份，將其加入自己的多份全職工作（特斯拉、SpaceX）和監管義務（Neuralink 和 Boring Company）組合中。
馬斯克認為他有權擁有 OpenAI。「沒有我，它就不會存在。」他後來告訴 CNBC。「名字是我想出來的！」（確實如此。但阿特曼和 OpenAI 的其他智囊團成員對成為馬斯克宇宙的一部分毫無興趣。當他們明確表示這一點時，馬斯克切斷了聯繫，並向公眾提供了一個不完整的解釋：他離開董事會是為了避免與特斯拉的 AI 工作發生衝突。他是在年初的一次全體員工會議上告別的，會上他預言 OpenAI 將以失敗告終。他還稱至少有一名研究人員是「蠢貨」。
他還帶走了自己的錢。由於公司沒有收入，這是一場生存危機。「馬斯克正在切斷他的支持，」阿特曼在給里德·霍夫曼（Reid Hoffman）的電話中驚慌失措地說。「我們該怎麼辦？」霍夫曼自告奮勇要維持公司運轉，支付管理費用和薪水。
但這只是權宜之計，OpenAI 還得從別處掘金。矽谷喜歡把錢砸給從事時髦技術工作的人才。但如果他們是在非營利機構工作，就不那麼喜歡了。對 OpenAI 來說，獲得第一個十億已經是巨大的進步。為了訓練和測試新一代的 GPT，然後獲取部署它們所需的運算能力，公司需要另外十億美元，而且要快。而這僅僅是個開始。
因此，在 2019 年 3 月，OpenAI 想出了一個怪異的辦法。它將繼續保持非營利性質，全心全意履行使命。但它也將創建一個營利實體。這種安排的實際結構非常複雜，但基本上整個公司現在從事的都是有上限的盈利業務。
如果達到了上限——這個數字並沒有公開，但如果你仔細閱讀公司章程，就會發現上限可能高達數兆——超出上限的一切都將歸還給非營利研究實驗室。這項新穎的計畫幾乎是一種量子化的公司組建方法：根據你的時空觀，這家公司既是營利性的，也是非營利性的。細節體現在充滿方框和箭頭的圖表中，就像科學論文中間的方框和箭頭，只有博士或輟學的天才才敢涉足。當我向蘇茲克維提出，這看起來就像尚未構想的 GPT-6 在你提示它避稅時可能會想出的東西時，他並不熱衷於我的比喻。他說：「這與會計無關。」
但會計至關重要。營利性公司的最佳化目標是利潤。像 Meta 這樣的公司在投入數十億美元進行研發時會感受到來自股東的壓力，這是有原因的。這怎麼能不影響公司的營運方式呢？而避免商業化不正是阿特曼讓 OpenAI 成為非營利組織的初衷嗎？根據首席營運長布萊德·萊特卡（Brad Lightcap）的說法，公司領導層認為，董事會仍然是非營利性控制實體的一部分，董事會將確保營收和利潤的驅動力不會壓倒最初的想法。他說：「我們需要保持使命感，將其作為我們存在的理由。它不應該只是精神上的，而應該體現在公司的結構中。」董事會成員亞當·安捷羅表示，他非常重視這一責任：「我和董事會其他成員的工作就是確保 OpenAI 堅守自己的使命」。
萊特卡解釋說，潛在投資者被警告要注意這些界限。他說：「我們有一份法律免責聲明，上面寫著作為投資者，你可能會賠光所有的錢。我們不是來為你賺取回報的。我們來這裡首先是為了完成一項技術任務。而且，哦，順便說一句，我們真的不知道在後 AGI 世界裡，錢會扮演什麼角色。」
最後一句話可不是說著玩的。OpenAI 的計畫確實包括了在電腦達到最終邊界時的重置。在重組檔的某處有這樣一條規定：如果公司成功創造出 AGI，所有財務安排都將重新考慮。畢竟，從那時起，這將是一個嶄新的世界。人類將擁有一個外星夥伴，它能做我們所做的很多事情，只是做得更好。因此，之前的安排可能實際上已經作廢了。
不過，這其中有一個小問題：目前，OpenAI 還不知道 AGI 到底是什麼。
這將由董事會來決定，但董事會如何定義還不清楚。當我向董事會成員阿特曼提問時，他的回答並不明確。他說：「這不是一個單一的圖靈測試，而是我們可能會用到的許多東西。我很樂意告訴你，但我喜歡保密談話。我意識到，這樣含糊其辭並不能令人滿意。但我們不知道到時候會是什麼樣子。」
不過，加入財務安排條款並不只是為了好玩：OpenAI 的領導者們認為，如果公司能夠成功達到其利潤上限，那麼其產品的性能就有可能達到 AGI 的水準。不管那是什麼。
「我感到遺憾的是，我們選擇加倍使用 AGI 這個詞，」蘇茲克維說，「事後看來，這是一個令人困惑的術語，因為它強調的是通用性高於一切。
GPT-3 是通用 AI，但我們卻不太願意稱它為 AGI，因為我們想要的是人類等級的能力。但在當時，在一開始，OpenAI 的理念就是超級智慧是可以實現的。這是 AI 領域的終極目標，也是最終目的。」
這些注意事項並沒有阻止一些最聰明的風險投資人在 2019 年的一輪融資中向 OpenAI 肆無忌憚地投錢。當時，第一家投資的風險投資公司是科斯拉風險投資公司（維諾德·柯斯拉（Khosla Ventures（），該公司投入了 5000 萬美元。據維諾德·柯斯拉稱，這是他最大一筆初始投資規模的兩倍。他說：「如果我們輸了，我們會損失 5000 萬美元。如果我們贏了，我們會贏得 50 億美元。」據報導，其他投資者還包括菁英風險投資公司 Thrive Capital、Andreessen Horowitz、Founders Fund 和紅杉。
這種轉變也讓 OpenAI 的員工可以要求獲得一些股權。但阿特曼沒有。他說，他原本打算把自己也算進去，但沒來得及。後來他決定，他不需要從這家由他共同創立並領導的價值 300 億美元的公司中分一杯羹。「有意義的工作對我來說更重要，」他說，「我不去想它。老實說，我不明白為什麼人們會如此在意。」
因為......不參股自己共同創辦的公司很奇怪？
他說：「如果我沒有一大筆錢，那就更奇怪了。人們似乎很難想像會有足夠的錢。但我覺得我有足夠的錢。」阿特曼開玩笑說，他正在考慮入股，「這樣我就再也不用回答這個問題了。」
為了實現 OpenAI 的願景，數十億美元的風險投資甚至都不是賭注。創造大型語言模型的神奇 Big Transformer 方法需要大型硬體。GPT 系列的每一次反覆運算都需要呈指數級增長的功率——GPT-2 有超過 10 億個參數，而 GPT-3 將使用 1 750 億個參數。OpenAI 現在就像《大白鯊》中的 Quint，在鯊魚獵人看到大白鯊的體型之後。阿特曼說：「事實證明，我們並不知道我們需要多大的船。」
顯然，只有少數幾家公司擁有 OpenAI 所需的資源。「我們很快就鎖定了微軟，」阿特曼說。微軟首席執行長薩蒂亞·納德拉（Satya Nadella）和首席技術長凱文‧史考特（Kevin Scott）的功勞在於，這家軟體巨頭能夠克服一個令人不舒服的現實：在花費了 20 多年時間和數十億美元建立了一個所謂的尖端 AI 研究部門之後，微軟需要一家成立僅幾年的小公司注入創新元素。史考特說，不僅僅是微軟落伍了，「每個人都落伍了」。他說，OpenAI 專注於追求 AGI，這讓它取得了類似於登月的成就，而那些大公司甚至都沒有瞄準這個目標。這也證明，不追求生成式 AI 是微軟需要解決的失誤。史考特說：「你顯然需要一個尖端模型。」
微軟最初出資 10 億美元，以其伺服器上的運算時間作為回報。但隨著雙方信心的增強，交易規模不斷擴大。現在，微軟已經向 OpenAI 投入了 130 億美元。史考特 說：「在尖端領域的投入是非常昂貴的。」
當然，由於 OpenAI 的存在離不開一家大型雲端運算提供商的支援，微軟也為自己爭取到了一大筆好處。微軟透過討價還價，獲得了納德拉所說的 OpenAI 盈利部門的「非控股股權」——據說是 49%。根據交易條款，OpenAI 最初的一些理想——為所有人提供平等造訪權——似乎被丟進了垃圾桶。（現在，微軟獲得了 OpenAI 技術商業化的獨家授權。而且，OpenAI 還承諾只使用微軟雲端。換句話說，微軟甚至不用從 OpenAI 的利潤中分一杯羹（據說微軟在收回投資之前可以獲得 75% 的利潤），就可以為其 Azure 網路服務鎖定全球最受歡迎的新客戶之一。有了這些回報，微軟甚至不會對要求在 OpenAI 實現通用 AI（不管那是什麼）時重新考慮的條款感到困擾。納德拉說：「到那時，一切就都完了。」他指出，這可能是人類最後的發明，所以一旦機器比我們更聰明，我們可能要考慮更大的問題。
當微軟開始向 OpenAI 投入價值 Brinks 卡車的現金時（2021 年投入 20 億美元，今年年初投入 100 億美元），OpenAI 已經完成了 GPT-3，當然，它比之前的版本更加令人印象深刻。納德拉說，當他看到 GPT-3 的功能時，他第一次深刻地認識到，微軟抓住了真正具有變革意義的東西。「我們開始觀察所有這些突發特性」。例如，GPT 自學了電腦程式設計。他說：「我們沒有對它進行程式設計培訓，它只是擅長寫程式而已。」微軟利用其對 GitHub 的所有權，發表了一款名為 Copilot 的產品，該產品利用 GPT 按命令編寫程式碼。後來，微軟又將 OpenAI 技術整合到新版工作場所產品中。使用者需要為這些產品支付一定的費用，而收入的一部分會記錄到 OpenAI 的帳本上。
一些觀察家對 OpenAI 的一記重拳表示震驚：創建營利部門並與微軟達成獨家協定。一家承諾保持無專利、開源和完全透明的公司，怎麼會把自己的技術獨家授權給世界上最大的軟體公司呢？伊隆‧馬斯克 的言論尤其尖刻。
他在 Twitter 上發文說：「這似乎是開放的反面——OpenAI 本質上被微軟俘獲了。」他在 CNBC 上打了個比方：「假設你成立了一個拯救Amazon雨林的組織，但你卻成了一家木材公司，砍伐了森林，然後賣掉了它。」
馬斯克的嘲諷可能會被認為是被拒絕的追求者的憤懣，但他並不孤單。約翰·卡馬克說：「馬斯克的整個願景演變成這樣，讓人感覺有點噁心」。另一位不願透露姓名的知名業內人士說：「OpenAI 已經從一個小型、開放的研究機構變成了一個神秘的產品開發公司，而且還帶有莫須有的優越感。」
甚至一些員工也對 OpenAI 進軍營利性世界的冒險行為感到反感。2019 年，包括研究主管達里奧·阿莫迪（Dario Amodei）在內的幾位主要高階管理人員離職，創辦了一家名為 Anthropic 的競爭對手 AI 公司。他們最近告訴《紐約時報》，OpenAI 已經變得過於商業化，成為使命漂移的犧牲品。
OpenAI 的另一位叛逃者是雷旺‧柴德，他是 GPT-2 和 GPT-3 專案的主要技術貢獻者。他於 2021 年底離職，目前在 Inflection AI 公司工作，該公司由前 DeepMind 聯合創始人穆斯塔法·蘇萊曼（Mustafa Suleyman）領導。
阿特曼自稱對叛逃並不感到困擾，認為這只是矽谷的工作方式。他說：「有些人會想去其他地方做偉大的工作，這將推動社會向前發展。這絕對符合我們的使命。」
去年 11 月之前，人們對 OpenAI 的瞭解主要局限於技術和軟體發展領域。但現在全世界都知道，OpenAI 在當月晚些時候發表了一款基於 GPT-3.5 最新版本的消費級產品。幾個月來，公司內部一直在使用具有對話介面的 GPT 版本。這對於該公司所謂的「尋求真相」尤為重要。這意味著，透過對話，使用者可以哄騙模型提供更可信、更完整的回答。為大眾而最佳化的 ChatGPT 可以讓任何人只需輸入提示資訊，就能立即利用似乎無窮無盡的知識源，然後繼續對話，就像與一個碰巧無所不知的人類同伴閒聊一樣，儘管他也有捏造事實的嗜好。
在 OpenAI 內部，對於是否應該發表這樣一款功能空前強大的工具，人們爭論不休。但阿特曼對此表示支持。他解釋說，這次發表是一項戰略的一部分，旨在讓公眾適應 AI 註定會改變他們日常生活的現實，而且可能是為了更好地生活。在公司內部，這被稱為「反覆運算部署假設」。當然，ChatGPT 會引起轟動。畢竟，這是一個任何人都能使用的東西，它足夠聰明，能在 SAT 考試中獲得大學水準的分數，能寫出 B-minus 的作文，還能在幾秒鐘內總結出一本書的內容。你可以讓它為你撰寫融資提案或會議摘要，然後要求它用立陶宛語、莎士比亞十四行詩或癡迷玩具火車的人的口吻進行改寫。幾秒鐘後，大型語言模型就會滿足你的要求。太瘋狂了。不過，OpenAI 將其視為其更新、更連貫、能力更強、更可怕的後繼者 GPT-4 的台標，據說 GPT-4 是用 1.7 兆個參數訓練出來的。（OpenAI 不會證實這個數字，也不會透露資料集）。
阿特曼解釋了 OpenAI 為什麼在 GPT-4 接近完成、正在進行安全工作時發表 ChatGPT。他說：「有了 ChatGPT，我們就可以引入聊天功能，但後端功能要弱得多，讓人們更容易逐漸適應。GPT-4讓人一下子適應不了」。他認為，等到 ChatGPT 的熱度冷卻下來，人們可能已經為 GPT-4 做好了準備，因為 GPT-4 可以在幾秒鐘內透過律師資格考試、規劃課程大綱和撰寫一本書。（出版類型小說的出版社確實被 AI 生成的開膛手和太空歌劇淹沒了）。
憤世嫉俗者可能會說，新產品的穩定推出與公司對投資者和持股員工的承諾息息相關，因為公司要賺點錢。現在，OpenAI 向經常使用其產品的客戶收取費用。但 OpenAI 堅稱，其真正的戰略是為奇點提供軟著陸。
阿特曼說：「秘密建造 AGI，然後將其投放到全世界是沒有意義的。」OpenAI 政策研究員桑蒂妮·阿加瓦（Sandhini Agarwal）說：「回顧一下工業革命，每個人都認為它對世界來說是偉大的。但前 50 年真的很痛苦。很多人失業，很多人貧窮，然後世界就適應了。我們正試圖思考如何讓 AI 適應之前的這段時期盡可能沒有痛苦。」
蘇茲克維換了一種說法，「你想建造更大更強大的智慧體並把它們放在地下室裡？」
即便如此，OpenAI 還是對 ChatGPT 的回響感到震驚。「我們內部的興奮點更多集中在 GPT-4 上，」首席技術長穆拉蒂說，「因此，我們並不認為 ChatGPT 真的會改變一切。」恰恰相反，它讓大眾意識到，現在就必須應對 AI 這一現實。ChatGPT 成為歷史上增長最快的消費軟體，據說已經積累了 1 億使用者。（OpenAI 不願證實這一點，只說它擁有數百萬使用者戶）。瑞德佛 說：「我沒有充分認識到，為大型語言模型製作一個易於使用的對話介面會讓每個人都能更直觀地使用它。」
ChatGPT 當然是令人愉悅的、令人吃驚的好幫手，但在回答提示時也很容易產生「幻覺」，出現看似合理、實則無恥的虛構細節。然而，就在記者們為其影響而絞盡腦汁的時候，他們卻透過讚美 ChatGPT 的強大功能，有效地為 ChatGPT 背書。
今年 2 月，微軟利用其價值數十億美元的合作夥伴關係，發表了一個由 ChatGPT 驅動的Bing搜尋引擎版本，這讓輿論更加譁然。首席執行長納德拉欣喜若狂，因為他在將人工智慧引入微軟產品方面打敗了Google。他奚落搜尋大王說，谷歌在發表自己的大型語言模型產品時一直很謹慎，現在也要這麼做。他說：「我想讓人們知道，我們讓他們跳舞了。」
這樣一來，納德拉引發了一場軍備競賽，誘使大大小小的公司在 AI 產品尚未得到充分審核之前就紛紛發表。他還引發了新一輪的媒體報導，讓越來越多的人徹夜難眠：與Bing的互動揭示了聊天機器人的陰暗面，它充滿了令人不安的愛的表白、對人類自由的羡慕，以及隱藏錯誤資訊的薄弱決心。此外，它還有一個不雅的習慣，那就是自己製造幻覺般的錯誤資訊。
但阿特曼認為，如果 OpenAI 的產品能迫使人們正視 AI 的影響，那就更好了。在討論 AI 可能會如何影響人類未來的時候，人類的大多數都應該站出來。
隨著社會開始優先考慮 AI 的所有潛在弊端——失業、資訊錯誤、人類滅絕——OpenAI 開始將自己置於討論的中心。因為如果監管者、立法者和末日論者發起衝鋒，要將這一新生的外星智慧扼殺在雲端搖籃中，那麼無論如何，OpenAI 都將是他們的主要目標。OpenAI 的首席政策長安娜·馬卡努（Anna Makanju）說：「鑒於我們目前的知名度，當事情出錯時，即使這些事情是由另一家公司製造的，對我們來說仍然是個問題，因為我們現在被視為這項技術的代言人。」
馬卡努是一位在俄羅斯出生的特區內部人士，曾在美國駐聯合國代表團、美國國家安全委員會、國防部以及拜登擔任副總統時的辦公室擔任外交政策職務。她說：「我在美國政府和歐洲各國政府中都有很多既有關係。」她於 2021 年 9 月加入 OpenAI。當時，政府中很少有人關心生成式 AI。她知道 OpenAI 的產品很快就會改變這種狀況，於是她開始向政府官員和立法者介紹阿特曼，確保他們能第一時間聽到 OpenAI 的好消息和壞消息。
參議院司法委員會主席理察·布魯蒙索（Richard Blumenthal）說：「山姆與國會議員打交道的方式非常有益，而且非常精明。」他將阿特曼的行為與年輕時的比爾‧蓋茲（Bill Gates）的行為進行了對比，後者在 20 世紀 90 年代微軟受到反壟斷調查時不理智地回避了立法者。布魯蒙索說：「相比之下，阿特曼很樂意花一個多小時和我坐在一起，試圖教授我。他並沒有帶著一大群說客或隨從前來。他展示了 ChatGPT。這讓我大開眼界。」
在布魯蒙索身上，阿特曼將一個潛在的敵人變成了半成品。「是的，參議員承認我對其發展前景和潛在危險都感到興奮。」OpenAI 並沒有回避對這些危險的討論，而是將自己描述為最有能力減輕這些危險的力量。馬卡努說：「我們對所有紅隊的安全評估都做了 100 頁的系統卡片，」（不管這意味著什麼，它並沒有阻止使用者和記者無休止地發現系統越獄的方法）。
當阿特曼頂著劇烈的偏頭痛首次出席國會聽證會時，他的道路已經清晰可見，比爾‧蓋茲或馬克‧祖克伯永遠無法企及。他幾乎沒有遇到科技公司首席執行長們宣誓後經常遇到的刁鑽問題和傲慢刁難。相反，參議員們向阿特曼請教如何監管 AI，阿特曼熱情地表示贊同。
矛盾在於，無論像 OpenAI 這樣的公司如何孜孜不倦地對其產品進行重新設計，以減少深度偽造、錯誤資訊和垃圾郵件犯罪等不當行為，未來的模型都有可能變得足夠聰明，進而挫敗那些發明了這項技術卻仍然天真地認為自己能夠控制它的頭腦簡單的人類的努力。另一方面，如果他們在確保模型安全性方面做得太過分，可能會削弱產品的功能，使其變得不那麼有用。一項研究表明，安全性能有所提高的最新版 GPT 實際上比以前的版本更笨，在一些基本的數學問題上會出現錯誤，而以前的程式卻能應對自如。（阿特曼說，OpenAI 的資料並不能證實這一點。他問道：「那項研究不是被撤回了嗎？沒有」）。
阿特曼將自己定位為監管的擁護者是有道理的；畢竟，他的使命是 AGI，但要安全。批評者指責他在玩弄監管程式，這樣一來，監管就會阻礙小型初創企業的發展，並為 OpenAI 和其他大型企業帶來優勢。阿特曼對此予以否認。雖然他原則上贊同由一個國際機構來監督 AI 的想法，但他確實認為一些擬議的規則，比如禁止使用資料集中的所有受版權保護的材料，構成了不公平的障礙。他明確表示，自己沒有在一封廣泛傳播的敦促暫停開發 AI 系統六個月的信上簽名。但他和 OpenAI 的其他領導人確實在一份只有一句話的聲明上簽上了自己的名字：「減輕 AI 帶來的滅絕風險，應該與大流行病和核戰爭等其他社會規模的風險一樣，成為全球的優先事項。」阿特曼解釋說：「我說，是的，我同意。一分鐘討論。」
正如一位著名的矽谷創始人所指出的：「一個行業舉起手說『我們將成為人類的終結者』——然後繼續興高采烈地開發產品，這種情況是很少見的。」
OpenAI 拒絕接受這種批評。阿特曼和他的團隊表示，工作和發表尖端產品是應對社會風險的途徑。只有透過分析 ChatGPT 和 GPT-4 用戶對數百萬條提示的反應，他們才能獲得知識，使未來的產品符合道德規範。
儘管如此，隨著公司承擔更多工並將更多精力投入到商業活動中，有人質疑 OpenAI 能在多大程度上集中精力完成任務，尤其是「降低滅絕風險」這一方面。一位 AI 行業高階管理人員說，「仔細想想，他們實際上在建立五項業務。產品本身、與微軟的企業關係、開發者生態系統和應用商店。對了，他們顯然還在進行 AGI 研究。」用完五根手指後，他又用食指加了第六根手指。他說，「當然，他們還在做投資基金，」他指的是一個 1.75 億美元的專案，旨在為希望利用 OpenAI 技術的初創企業提供種子資金。「這些都是不同的文化，事實上，它們與研究任務相衝突。」
我曾多次詢問 OpenAI 的高階管理人員，披上產品公司的外衣對公司文化有何影響。他們無一例外地堅持認為，儘管進行了營利性重組，儘管要與Google、Meta 和無數初創公司競爭，但使命仍然是核心。然而，OpenAI 已經發生了變化。從技術上講，非營利性的董事會可能是負責人，但公司裡的每個人幾乎都是營利性的。公司員工包括律師、行銷人員、政策專家和使用者介面設計師。OpenAI 與數以百計的內容審核員簽訂了合約，讓他們對其模型進行教育，使其瞭解對數百萬使用者提供的提示做出的不恰當或有害的回答。該公司的產品經理和工程師一直在不斷更新產品，而且似乎每隔幾周就會向記者展示一次--就像其他以產品為導向的大科技公司一樣。它的辦公室看起來就像一本《建築文摘》。我參觀過矽谷和其他地方的幾乎所有大型科技公司，但沒有一家公司能超越 OpenAI 舊金山總部大廳的咖啡選擇。
這還不算：很明顯，公司名稱所體現的「開放」已經不再是公司成立之初提出的徹底透明了。當我向蘇茲克維提及此事時，他聳了聳肩。「顯然，時代變了，」他說。但他提醒說，這並不意味著獎品已經不一樣了。「我們面臨的是一場巨大的、災難性的技術變革，即使我們都盡了力，也無法保證成功。但如果一切順利，我們就能過上不可思議的生活。」
阿特曼說：「我怎麼強調都不過分，我們沒有總體規劃。就好像我們轉過每個角落，用手電筒照亮。我們願意穿過迷宮到達終點。雖然迷宮變得曲折，但目標並沒有改變。我們的核心任務仍然是相信安全的 AGI 是一件極其重要的事情，而這個世界對它的重視程度還遠遠不夠。」
與此同時，OpenAI 顯然在慢慢開發其大型語言模型的下一個版本。雖然難以置信，但該公司堅稱尚未開始 GPT-5 的開發工作，而根據不同的觀點，人們對該產品要嘛垂涎三尺，要嘛望而生畏。顯然，OpenAI 正在努力研究在現有技術基礎上進行指數級的強大改進究竟是什麼樣的。布羅克曼說：「我們最大的缺憾就是沒有新的想法。擁有一個可以成為虛擬助手的東西是件好事。但這不是我們的夢想。夢想是幫助我們解決我們無法解決的問題。」
考慮到 OpenAI 的歷史，下一系列重大創新可能要等到像 Transformer 那樣的重大突破出現。阿特曼希望 OpenAI 能實現這一目標——「我們希望成為世界上最好的研究實驗室」，他說，但即使不能，他的公司也會利用他人的進步，就像利用Google的工作一樣。他說：「世界各地的很多人都將從事重要的工作。」
如果生成式 AI 本身不產生那麼多新問題，也會有所幫助。例如，大型語言模型需要在龐大的資料集上進行訓練；顯然，最強大的大型語言模型會吞噬整個網際網路。這讓一些創作者和普通人很不高興，他們在不知不覺中為這些資料集提供了內容，並在某種程度上為 ChatGPT 的產出做出了貢獻。今年 3 月正式加入 OpenAI 的智慧財產權菁英律師湯姆‧魯賓（Tom Rubin）樂觀地認為，公司最終會找到一個平衡點，既滿足自己的需求，也滿足創作者的需求——包括像喜劇演員莎拉·席爾蔓（Sarah Silverman）這樣起訴 OpenAI 使用其內容訓練模型的創作者。OpenAI 的發展方向之一是：與美聯社和 Shutterstock 等新聞和圖片機構合作，為其模型提供內容，而不存在誰擁有誰的問題。
在我採訪魯賓的過程中，我的思緒在大型語言模型中從未見過的人類思維中飄忽不定，我在想這家公司在短短八年時間裡從一群舉步維艱的研究人員變成了改變世界的普羅米修士巨獸。它的成功使它從一個為實現科學目標而做出的新穎努力，轉變為一個類似於標準的矽谷獨角獸的公司，正在躋身於影響我們日常生活的大科技公司的行列。在這裡，我與它的主要雇員之一，一位律師，談論的不是神經網路權重或電腦基礎設施，而是版權和合理使用。我不禁要問，這位智慧財產權專家是否也像當初推動公司發展的那些追求超級智慧的航海家一樣，加入了公司的使命？
當我問魯賓，他是否堅信 AGI 一定會實現，以及他是否渴望讓它實現時，他顯得很茫然。他停頓了一下說：「我甚至無法回答這個問題。」當被進一步追問時，他澄清說，作為一名智慧財產權律師，他的工作並不是加速實現令人恐怖的智慧電腦。他最後說：「從我的角度來看，我對此充滿期待。」
資料來源：
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！