ADVERTISEMENT
數十年來，矽谷一直在期待一種新技術的出現，這種技術將會徹底改變人類的生活方式、經濟形態、社會機構等方方面面。它能夠讓人類和機器結合起來，可能還會帶來前所未有的機遇和挑戰，並且將歷史劃分為「之前」和「之後」的兩個時代。
這一里程碑的名字可以稱作「奇點」（Singularity）。
「奇點」（Singularity）是美國科幻作家弗諾·文奇（Vernor Vinge）提出的概念，指的是一種未來可能發生的事件或情況，即人工智慧的智慧超越了人類智慧的水準，進而引發了技術和社會的爆炸性變化，讓未來發生的事情難以預測和理解。
奇點可能以多種方式出現。一種可能性是，人們將電腦的處理能力融入到自己的先天智力中，讓自己變得更加強大。或者，電腦可能會變得更加複雜，以至於它能夠真正思考，進而打造出一個「全球大腦」。
無論是哪種情況，都將帶來劇烈、呈指數級增長的變化，而且這些變化都不可逆轉。一台具有自我意識的超級智慧型機器能夠自行進行設計、改進和升級，其速度遠遠快於任何科學家團隊，這也必然將引發一場智力爆炸。過去幾個世紀的進步可能在短短數年甚至數月內實現突破性進展。奇點就是一個通向未來的彈射器。
如今，人工智慧在科技、商業和政治領域掀起了一場前所未有的波瀾。從矽谷傳出的各種誇張言辭和荒誕論調來看，這種極度美好的未來似乎終於就要到來了。
Google一向低調的首席執行官桑德爾·皮查伊（Sundar Pichai）表示，「人工智慧的重要性和影響已經超越了火、電或任何過去的技術成果」。億萬富翁投資者里德·霍夫曼（Reid Hoffman）表示，「世界將迎來一股空前的力量，這將推動整個人類社會向前邁進。」微軟聯合創始人比爾·蓋茲（Bill Gates）宣稱，人工智慧「將改變人們的工作、學習、旅行、獲得醫療保健和相互交流的方式」。
人工智慧是矽谷推出的終極新產品，它能夠按照需要實現超越人類的能力。
但其中也隱藏著一個不容忽視的問題。這就好像科技公司在推出自動駕駛汽車時，還附帶了一條警告資訊，但這些汽車在開往沃爾瑪的途中可能會爆炸。
今年五月，特斯拉和推特的負責人伊隆·馬斯克（Elon Musk）在接受美國消費者新聞與商業頻道（CNBC）採訪時表示：「人工通用智慧的出現之所以被稱為奇點，是因為在這之後，將很難預測接下來會發生什麼。」他認為，我們將迎來「豐盛時代」（an age of abundance），但人工智慧「毀滅人類」的風險性「仍然不可忽視」。
在科技界，人工智慧的最堅定支持者是美國人工智慧公司 OpenAI 的首席執行官山姆·阿特曼（Sam Altman）。這家初創公司去年推出的 ChatGPT 聊天機器人也引發了持續的熱潮。阿特曼表示，人工智慧將是「實現經濟賦權和許多人獲得財富的最大力量」。
不過，對於創立開發腦機介面技術公司的馬斯克所言，他也覺得馬斯克的批評是有道理的。
前不久，阿特曼在一封由非營利組織「人工智慧安全中心」（Center for AI Safety）發起的聯名公開信上簽字。信中表示，「防範人工智慧帶來的滅絕風險，應該成為全球優先關注的問題」，其重要性與「大流行病和核戰爭」相當。其他簽署人包括來自 OpenAI 公司的同事以及微軟和Google公司的電腦科學家。
滅世論在矽谷是一個熟悉、甚至是受歡迎的話題。幾年前，幾乎所有的科技領域高管都好像在某個偏遠地區建立了一個備有充足物資的末日避難所，以備不時之需。2016 年，阿特曼還表示，他「儲備了槍支、黃金、碘化鉀、抗生素、電池、水、以色列國防軍的防毒面具，並且在大瑟爾建立了一個可以直接飛過去的大型避難所。」大流行的爆發，讓這些科技領域的末日求生者至少在一段時間內感到他們的預見性得到了印證。
如今，他們正為奇點的到來做準備。
對此，《智能幻覺》（The Intelligence Illusion）一書作者巴爾杜爾·比亞爾納松（Baldur Bjarnason）稱，「他們自認為自己非常明智，但他們的言辭卻更像是西元 1000 年時談論末日啟示的修道士。這讓人感到有些擔憂。」
「超越」的起源
「奇點」這一概念的起源可以追溯到上世紀 50 年代的電腦科學先驅約翰·馮紐曼（John von Neumann）。馮紐曼曾經預言，「技術的不斷加速進步」將會引發「人類歷史上某個關鍵的奇點」。
英國數學家歐文·約翰·古德（Irving John Good）也是這一觀點的有力支持者。他曾在布萊奇利園（Bletchley Park，二戰期間英國政府進行密碼解讀的主要場所）協助英國政府破解過德國的恩尼格瑪密碼機。1964 年，他寫道：「儘早建造超級智慧型機器是人類生存的關鍵。」
美國電影導演史丹利·庫柏力克（Stanley Kubrick）在執導拍攝科幻電影《2001 太空漫遊》（2001: A Space Odyssey）時，曾向古德請教過該影片中由善良變惡意的人工智慧角色 HAL 的問題，這算是電腦科學和科幻小說之間模糊邊界的早期範例。
卡內基美隆大學（Carnegie Mellon University）機器人研究所兼職教授漢斯·莫拉維克（Hans Moravec）認為，奇點時代的到來，不僅能造福於生者，也能令死者得以重生。
「我們將有機會以真實而直接的方式重新創造過去，並與之互動。」他在《思想之子：機器人與人類智慧的未來》（Mind Children: The Future of Robot and Human Intelligence）一書中寫道。
近年來，企業家、發明家雷·庫茲韋爾（Ray Kurzweil）也是奇點的最大擁護者。庫茲韋爾在 1990 年撰寫過《智慧型機器時代》（The Age of Intelligent Machines）一書，2005 年撰寫過《奇點臨近》（The Singularity Is Near）一書。現在，庫茲韋爾正在撰寫《奇點更加臨近》（The Singularity Is Near）一書。
他預測，在本十年末，電腦將通過圖靈測試，達到與人類難以區分的水準。再過另外十五年後，真正的超越將會到來：「屆時，計算技術將融入我們自身，我們的智力將得到大幅提升，甚至可能增加幾百倍。」
到那時，庫茲韋爾就已經 97 歲了。借助各種維生素和補品的幫助，他希望自己能活到那一天，親眼目睹這個時代的到來。
一些批評奇點的人認為，奇點的概念試圖在軟體領域中建立一種類似於有組織宗教信仰的信念體系，其中包括對未來的預測和技術潛力的堅定信仰，但這種信仰方式可能缺乏嚴謹的科學證據支持，難以讓人信服。
麻省理工學院（MIT）電腦科學和人工智慧實驗室前主任羅德尼·布魯克斯（Rodney Brooks）稱，「他們都想獲得永生，卻不願意相信『上帝』。」
如今，「奇點」爭議中的創新主要涉及到的是大型語言模型（LLM），這一人工智慧系統也是驅動聊天機器人發展的核心。與這些大型語言模型對話，它們可以迅速、連貫地回答問題，而且通常都能提供相當有啟發性的答案。
人工智慧領域的長期創業者、《人人都應該知道的人工智慧》（Artificial Intelligence: What Everyone Needs to Know）一書作者傑瑞·卡普蘭（Jerry Kaplan）表示，「當你向大型語言模型提問後，它會去理解問題的含義，確定應該給出什麼樣的答案，然後將答案以書面語言形式呈現出來。如果這不是對通用智慧的定義，那什麼才是呢？」
卡普蘭還表示，他對無人駕駛汽車和加密貨幣等備受矚目的技術持懷疑態度。同樣，他之前對最新的人工智慧熱潮也持有同樣的懷疑態度，但在看到人工智慧所展現的潛力後，他已經開始改變對人工智慧的看法。
「如果這不是那個『奇點』，那它肯定也算是一個奇點。這是一項具有重大影響的技術，它將顯著推進人類在藝術、科學和知識領域的發展。當然，同時也肯定會帶來一些問題。」他補充說。
批評者反駁稱，即使大型語言模型取得了令人矚目的成果，但這也無法與奇點所描繪的巨大、全球性的智慧化相提並論。準確區分炒作和現實兩者界限的部分問題在於，推動這項技術的原理和演算法變得越來越難以揭示。
OpenAI 最初是一個使用開原始程式碼的非營利組織，如今卻轉變為營利性企業。有批評者指出，OpenAI 公司現在實際上是一個「黑盒子」，大家難以理解其內部運作。在這方面，Google和微軟也存在資訊公開度不高的情況。
目前許多關於人工智慧的研究都是由那些能從研究成果中獲益的公司所主導。微軟公司（該公司已陸續向 OpenAI 公司投資 130 億美元）研究人員在今年 4 月發表的一篇研究報告中寫道，OpenAI 最新模型的初步版本「展示出了多個智慧型特徵」，包括「抽象能力、理解能力、視覺能力、程式編輯能力」以及「理解人類動機和情感的能力」。
史丹佛大學（Stanford University）電腦科學博士生萊蘭·謝佛（Rylan Schaeffer）表示，一些人工智慧研究人員在描述這些大型語言模型表現出的「突現能力」方面並不準確。雖然這些大型語言模型具有一些未知和難以解釋的能力，但這些能力在規模較小的語言模型版本中並不明顯或不存在。
謝佛和另外兩位史丹佛同事布蘭多·米蘭達（Brando Miranda）和桑米·科耶喬（Sanmi Koyejo）在今年 5 月發表的一篇研究論文中研究了這個問題，他們得出結論稱，這種突現能力只是由於測量誤差而造成的「錯覺」，並非模型大小和複雜程度的增加所致。實際上，研究人員可能會傾向於看到他們希望看到的結果。
永生不死，永利不衰
在華盛頓、倫敦和布魯塞爾，立法者都逐漸開始認識到了人工智慧帶來的機遇和問題，並開始討論有關監管問題。阿特曼正在為 OpenAI 公司進行推廣路演，旨在消除早起批評，同時將其公司塑造為引領奇點時代的引路人。
這包括對監管的開放態度，但具體的監管形式目前還並不明確。不過，矽谷普遍認為，政府機構效率低下且缺乏專業知識，無法有效監管快速發展的技術領域。
Google前首席執行官艾立克·史密特（Eric Schmidt）今年早些時候在接受新聞訪談節目《與媒體見面》（Meet the Press）時表示，「政府機構中沒有誰能夠妥善地處理這個問題」，並提出了人工智慧自我監管的觀點。「但這個行業內部卻有能力制定大致正確的監管措施。」他補充說。
人工智慧和技術奇點一樣，大家認為其所帶來的變化都不可逆轉。阿特曼和他的同事前不久表示，「要遏制人工智慧的進一步發展，必須建立類似於全球監管體系的管控機制，但即便如此，也不能保證一定能成功。」他們還稱，如果矽谷不這麼做，肯定也有其他人去做這件事。
但是，目前卻很少有人討論其中產生的巨大利潤。儘管普遍認為人工智慧是一台創造無限財富的機器，但實際上從中獲利的基本上還是那些已經富有的人。
今年，微軟的市值已經飆升了5兆美元。生產運行人工智慧系統晶片的Nvidia，最近由於對晶片需求的激增，也成為了美國市值最高的上市公司之一。
「人工智慧就是人類社會一直期望擁有的技術。」阿特曼發推文說。
不可否認的是，這的確是科技世界一直期望擁有的一項技術，它的出現也正好趕上了最好的時機。
去年，矽谷經歷了裁員和利率不斷上升的雙重打擊，而加密貨幣在經歷一段繁榮和興盛之後，也因欺詐及隨之而來的失望而迅速衰落。
「跟著錢走。」以幽默方式描繪技術奇點的科幻小說《書呆子的狂想》（The Rapture of the Nerds）合著者查理斯·史特羅斯（Charles Stross）說。斯特羅斯也是科幻小說《漸速音》（Accelerando）的作者，在這本書中，他也以更嚴肅和認真的口吻描繪了未來生活的樣子。
「其中真正的機會在於，企業將能夠用軟體來替代許多有缺陷、昂貴、反應遲緩且由人工作業的資訊處理單元，進而達到降本增效的目的。」他說。
長期以來，人們一直都把技術奇點想像成一場具有全球性影響的事件，能夠徹底顛覆人類的認知體系，這一變革的威力也令人驚歎。就目前來看，這種可能性依然存在。
然而，由於當今矽谷對企業利潤的極端追求，這在一定程度上將導致技術奇點首先被用作一種裁員工具。在追求破兆市值的過程中，次要問題都可以暫時擱置。
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！