電腦也許能擁有超級智慧，但產生不了意識

生成式人工智慧最近的「超人」表現讓人憧憬機器也會產生意識。但有人出來潑冷水，靠增加指數級的運算資源只能極大地改善模擬，但卻永遠無法到達彼岸。本文主要探討了為什麼電腦無法獲得意識，闡述了科學的局限性、哲學與科學的區別、大腦與意識的關係，以及人工智慧與連接主義的局限。文章來自編譯。

人類已經將自身由細胞組成的生物體變成了完全不同的東西。但有一點令人困惑，那就是現代神經科學的進步與影響如何引導其從業者將人性的奇跡塞進大腦，以及電腦科學家如何進一步將大腦轉化成矽電路的邏輯門。 

由於人類以感覺為「輸入」，以言語和行動為「輸出」，這已經變成了人工智慧的信條，也就是令人信服地模仿人類的輸入輸出行為就相當於讓電腦真正具備人類特質。 

——阿里‧舒爾曼（Ari Schulman）

科學家們之所以能逃脫這種形而上學式謀殺的懲罰，是因為他們開發的技術具有極高的實用性。（Tallis 2014。）但令人驚訝的是，一群哲學家卻屈服於神經科學的光環，並向那些還原論者伸出了援助之手。 

娛樂媒體通過《雲端情人》以及《人造意識》等電影，將這種愚蠢的行為變成了未來的可能性。 

本文話題涉及到當下很火的從生物學到電腦偽科學的「神經」智慧時尚，同時還回答了我之前一篇談人工智慧與意識的文章許多問題與有效批評。 

在1998 年的一場討論意識的會議之後，研究意識的先驅神經科學家克里斯多福‧科奇（Christopher Koch）跟心靈哲學家大衛‧查爾默斯 （David Chalmers）打賭說， 25 年內，人們會發現大腦當中意識的神經關聯性。 

得分：哲學家 1，科學家 0。

科奇還沒在大腦中找到意識的神經指標。2023 年，查默斯被宣布為獲勝者，獎品是一箱葡萄牙的優質葡萄酒。 

生成式人工智慧以及一眾GPT的成功激發了人們對通用人工智慧 （AGI） 即將到來以及人工智慧可擁有意識的期待。19 位科學家最近發表的一篇論文進一步指出：「開發出滿足這些指標（意識）的人工智慧系統已無明顯的技術障礙。」 

毫無疑問，我們可以製造智慧型機器。可是，我們能製造出有意識的機器的假設的前提，是基於一系列關於科學、大腦以及思維的錯誤假設。 

科學及其局限性

意識問題

2005 年，《科學》雜誌將意識這個「難題」評為科學界第二重要的未解問題。難就難在解釋事物是如何產生主觀體驗的。大腦這樣的物質系統如何產生意識？如何通過神經活動模式區分香草與薰衣草的氣味？大腦作為一個物質物件，如何創造出非物質的精髓，比如價值觀、目的、意義、感覺或思想？ 

儘管神經科學取得了令人矚目的進步，但它沒法回答這些問題——一個也回答不了。 

這個問題很難解決，它源於我們對意識的理解。雖然意識機器的可能性不能被斷然否決，但羅素的茶壺假說或飛行麵條怪物假說也不能被斷然否決。這兩個假說在邏輯上都是合理的。但問題不在於意識機器的論證在邏輯上是否一致，而在於它是不是一個值得接受的有效假說。 

神經科學家堅信，解決與意識相關的簡單問題會讓我們朝著一個方向前進，也就是大腦處理結構與意識體驗結構之間會存在越來越緊密的對應關係。不過，希望神經活動與內在體驗之間對應關係更緊密就能解決難題，就像相信只要走得足夠遠，你就能走到地平線一樣。 

傳統意義的「科學」意識理論不存在，因為科學只能描述和預測自然的行為方式，而不能描述和預測自然是什麼。後者的研究屬於哲學領域，或者更確切地說，屬於形而上學領域。伯特蘭‧羅素 （Bertrand Russell） 早在一個世紀前就得出了這一結論 （Russell 2009）。 

科學解釋事物的運作方式，而哲學則尋求對事物意義的理解。科學研究事實，而哲學探究事實的意義。 

量子力學是物理學當中一門非常成功的學科，其數學以堅如磐石的精度描述了量子現實。然而，量子現實意味著什麼則完全是另一回事。量子物體怎麼能既是粒子又是波？意識在測量過程中會導致波函數坍縮嗎？這個學科的正統觀念幾十年來一直在壓制這類問題，讓追求這一道路的物理學家的職業生涯陷入了死胡同。量子物理學家會告誡人們：「閉嘴，算你的東西就行了！」 

科學把所有現實都簡化為量子、數位或計量單位。它處理的是外部事物，即可以用感官及其延伸感知的現實經驗領域。意識對於科學家來說是一個難以捉摸的概念，因為它完全是主觀的，無法簡化為客觀對應物。 

試圖用定量方法解決意識的難題，就像試圖透過看螢幕播放的電影來弄清楚前者是如何製造出來的。 

解釋（Explanation）與詮釋（Interpretation）

對於《李爾王》的文字，科學能解釋的是其定量維度：紙張的密度和重量、標牌墨水的化學成分、頁數等等。這些是你可以透過經驗觀察或瞭解到的關於文字的東西。然而，要理解《李爾王》的含義，我們需要學習一種語言及其符號，然後才能與他人進行多數人都能理解的溝通，進而著手進行。 

解讀並非只是主觀的隨性而發；《李爾王》講述的並不是戰爭的輕浮。詮釋有好有壞。而這些詮釋性理解與經驗解釋同樣重要，有時候甚至更加重要。 

另一個例子是談話療法，或心理療法，這是一段解釋性的奧德賽，展示了解釋如何影響幸福感和人類能動性。你不會從腦電波、皮質醇、血清素以及多巴胺水準的角度來解釋你的焦慮，而是從焦慮本身的第一人稱體驗（或感受性）的角度來解釋：疏離感、迷失方向、不適以及想得太多什麼的。跟知識相反，這些都是只有通過主體間語境才能理解的現象體驗。 

任何工具都不能直接觀察理性、價值觀、思想或情感。亞歷山大‧林克萊特（Alexander Linklater）說得最為精到： 

值得一提的是，儘管 fMRI 掃描非常出色，但神經科醫生仍可以透過與患者相處來多瞭解心理功能。

換句話說，透過對話來理解含義和背景，進而理解患者的體驗。

物質是否能產生感受性或主觀體驗這個問題本身沒法靠經驗判斷，也不屬於科學範疇。換句話說，物質產生感受性這種看法在科學上毫無根據：它是一種哲學（形而上學）學說。解決這一難題的所有嘗試都失敗了，它仍然頑固地成為形而上學唯物主義教派的教條主義者眼中的異類。 

但，我們依然不缺乏嘗試。 

方法之一是無解方案（non-solution）：由於我們大腦的構造方式，我們永遠無法解決難題。這是哲學之愚。這種方法有什麼意義？如果你不想瞭解周圍的世界，為什麼要研究哲學？ 

另一種是用消除唯物主義的形式來解釋意識，這種激進的主張認為意識是虛幻的；換句話說，心理狀態錯誤地認為自己並不存在。支持這種看似荒謬的、自相矛盾的觀點，這就是哥德式的悖論（Kastrup 2015）。你都不用動太多腦子就能看出這些哲學家們是怎麼推翻自己的論點的：如果我們不能相信自己的心智告訴我們自己是有意識的話，那麼為什麼要相信同一個心智告訴我們自己沒有意識呢？如果意識是一種幻覺，那麼誰或什麼在產生幻覺？這讓你想知道這種幻覺是如何超脫在意識之外產生的。 

第三個方法是現代泛心論，這是物理主義的一種更精緻、更複雜的形式，它認為萬物都有意識：動物、樹木、岩石，甚至亞原子粒子都有。 

他們試圖用更基本的意識形式來解釋動物和人類的意識：基本物質實體的意識，比如夸克和電子。

泛心論認為，當原子及其基本的「意識」部分聚集在一起形成複雜的聚合體時，這些小小的部分就會創造出「某種東西」，可以產生生命的意義、鹽的味道或愛的感覺。但是，這個難題仍然是個謎，因為它將感受性推向物質的更基本層面（基本粒子），但沒法解釋這些聚合體如何導致主觀體驗。 

有個老笑話可以搬過來用：意識在實踐上行得通，但在理論上卻行不通。 

心智是一台機器嗎？

從根本上來說，心智是一種句式的運算設備，它從感覺感測器那裡接收句子作為輸入，對其進行邏輯運算，並輸出其他句子。（Churchland，1989）

我們發現，行動源自我們的感知，而我們的感知是由大腦活動構建的……我們的行動完全是機械式的……我們是可程式化設計的機器，我們得像把地球是圓當作理所當然一樣接受這一點。 （Carter，2010）

把神經哲學當作幌子的科學主義，是服務於認知科學的形而上學，彼得‧溫奇幾十年前批評這種哲學變成了「助手」，只是作為科學的工具，用來消除語言混淆，為科學解釋鋪平道路。用約翰‧洛克的話來說：「掃一下地，清除一些妨礙知識獲取的垃圾。」 

於是，語言就成為充分表達事物和描述事物作用的工具。 

如今，我們竟將「who」轉化為「what」，將「我」分解為「它們」的集合。探尋人性真相的旅程，演變成了將萬物，包括我們自身，還原為單純物質的過程。在神經科學的魅惑之下，語言——容我說得直白些——遭受了一次精神上的腦葉切除。我們的表達，曾經豐富多彩，如今卻變得貧瘠單調，仿佛失去了描繪人性複雜性的能力。 

雷蒙德‧塔利斯（Raymond Tallis）將這種手法稱為「轉移修飾語思維」。用維根斯坦的話說，這導致語言「休假去了」——也就是脫離了它本該有的嚴謹與準確。，正是建立在這種概念轉移之上。這種偷樑換柱正是塔利斯所謂的「神經神話學」的核心。 

哲學家們把時間花在對概念的思考上。為什麼？認知科學的概念大多都很好。我們需要的是繼續發現事實。

大腦不會產生意識

把相關性、原因與身份混為一談

生物主義和神經哲學對人類在自然界地位的認識是錯誤的，因為它們將相關性與因果關係跟身份混為一談，同時將心智、生物以及物質置放在同一抽象層面。 

功能正常的大腦是體驗的必要條件，但並非充分條件。主觀體驗與神經活動模式的相關性並不能確定大腦產生意識的因果關係。（ Papinaeu，2001）。雖然主觀體驗具有客觀的神經相關性，但科學只能得出這一結論。消防員在某個地點的存在可以與火災相關聯，但火災的原因無法從這種相關性中推斷出來。 

神經放電的感知相關性是否等同於感知的體驗？對紅色的體驗與其神經成像相關性的知識並不相同。火災現場的消防員並不等同於他們被派往要撲滅的火災。此外，如果神經或神經衝動被認為會引起感受性或意識，那麼它們就不可能彼此等同。如果 A 與 B 等同，A 就不能導致 B，反之亦然。 

只有一神論的上帝才能做到這樣的壯舉。 

妖言惑眾正在肆虐。 

神經神話學誤導了我們，讓我們自認為自己知道和理解哈很多。我會舉兩個例子。 

術語按照可操作的方式來定義。然後，在揮手之間，用一連串未經審慎檢驗的隱喻，大腦與心智之間的界限就這樣被輕易抹去了。 

信息

克勞德‧夏農開創性的資訊理論是通訊與電腦科學的基礎，該理論將資訊單位定義為「bit（位元）」，表示在兩個可能性一樣的備選中做出的選擇。資訊內容用消息的熵或不確定性來衡量：不確定性越大，資訊越多。因此，拋硬幣是高熵（資訊），因為結果不確定，概率為 50/50。 

這個資訊工程定義要想行得通，必須摒棄掉任何意義的概念。用夏農的話來說： 

通訊的語義與工程問題無關。

然後，理論將神經系統的功能視為一個傳輸系統，並把大腦概念化成一個處理和存放裝置，這只是邁出了一小步。 

衡量資訊的方法變成了資訊的定義，無視了資訊對接收者來說信息量有多大（是不是很有趣、很激動人心、很令人愉悅或令人震驚）。但是，從對資訊的一般理解當中剔除掉意義（資訊的詞源來自拉丁語 informare ，意思是「賦予一個東西形式、形狀或特徵」），這就忽略了對理解的要求。 

所以，電腦沒法思考或理解；它做的只是根據一組規則（演算法）交換符號。電腦指令集決定了符號與數位如何相互交換。 

哲學家約翰‧塞爾（John Searle）提出的中文房間思想實驗駁斥了圖靈測試（衡量機器智慧是否與人類智慧相當的指標）以及把心智（mnd）等同為資訊處理系統的概念。類比如下： 

把一個不懂中文的人放進一個封閉的空間裡。這個人透過輸入槽接收「輸入」，也就是漢字，然後根據一套英語規則操縱這些符號，並「輸出」看似經過深思熟慮的漢字答案。在外面的觀察者看來，房間似乎能聽懂中文。可是裡面的人只是按照規則操作，其實並不理解任何的符號。 

電腦以及現代基於 GPT 的人工智慧系統看似能理解語言，但其實不然。 

句法（結構、形式、規則以及詞語排列）不能等同語義（意義與解釋）。句法正確的句子，可能邏輯一致但毫無意義。 

理解意義跟基於規則的符號操作不一樣，因為符號還沒被解釋。中文房間想這樣一種觀點發起挑戰：即經過適當程式設計的電腦可以變得聰明，像人類一樣理解事物。這意味著通過圖靈測試未必就意味著具備了真正的理解或智慧。 

脫離語義的資訊也讓泛心論哲學家認為資訊以及進而的體驗無處不在。門也攜帶資訊，因為門的關閉狀態為 1，打開狀態為 0。 

岩石也能有訊息狀態——比方說，膨脹和收縮時——甚至從電子的不同狀態也能找到訊息狀態。因此，會有與岩石或電子相關的體驗。（Chalmers，1997 年）。

如果岩石有意識，那大腦也有意識，這一點毋庸置疑。心智則取決於大腦當中資訊位元的「功能組織」。可是，這種功能組織如何導致感受性呢……沒人知道。 

記憶

電腦有記憶體，用來儲存和處理資訊。可是，神經科學尚未找到大腦中記憶「檔案」的位置或「位址」，甚至連這種「檔案」是否存在都不知道。 

行為主義心理學家卡爾·萊士利 （Karl Lashley） 試過為老鼠製造腦損傷，想確定記憶與學習的不同位置。在給經過迷宮導航訓練的老鼠製造腦損傷後，他觀察到老鼠的表現並未受到影響。他得出結論，「記憶」沒有獨立的位址，而是遍佈整個大腦。 

根據他的學生、神經學家唐納‧赫布提出的理論，記憶的神經基礎是形成「細胞集群」，也就是體現被記住的體驗的細胞集合（神經元一起放電、被連接在一起），以及神經細胞之間突觸的選擇性刺激或抑制。在赫布看來，這種變化只是局部變化，而不是整個大腦的變化。 

局部記憶與分散式記憶、原子記憶與格式塔記憶理論：說道大腦中記憶的位置，神經科學仍然沒有定論： 

我們已經發現記憶形成的某些神經關聯，即伴隨著記憶出現的某些大腦活動，但尚未發現資訊本身儲存在哪裡。（Kastrup，2015） 

聯結主義

那能不能透過模擬神經模式來對大腦建模然後創造出心智呢？ 

聯結主義這種運算形式是 GPT 以及 LLM （大語言模型）的基礎，為經典的認為思維類似於處理符號語言的數位電腦的認知科學提供了一種替代方案。大腦似乎不按規則運作，沒有處理單元，訊息也不存在於檔案或位址之中。聯結主義將大腦類比成分散式結構當中大量互連的系統，讓模擬神經元之間的連接因為學習、訓練或「體驗」而發生變化。 

算力的迅猛發展讓物理學和非線性數學的自組織思想被重新發現，還讓神經生物學家得以瞭解大腦對損傷的恢復能力以及認知的靈活性。 

與（假設大腦通過處理符號進行運算的）認知運算理論不同，聯結主義的前提是運算是從大量簡單元件或模擬神經元的連接層面開始的，這些元件或神經元會動態連接並「自我組織」。這種大型人工神經網路在模式辨識、分類以及翻譯等一系列認知能力方面取得了驚人的成功。 

意義並不存在於構成系統的人工神經元之中，而是「存在於從許多此類成分的相互作用所產生的複雜活動模式之中」（Varela 2016）。我會在後面詳細闡述複雜性、湧現性以及模式等術語。

 

生成式人工智慧的驚人進步引發了人們對聯結主義及其最新形式，也就是深度學習的濃厚興趣。人工智慧的新興特性與符號運算有何關聯，或者符號規律如何從複雜模式中「湧現」，這些問題是當今人工智慧研究最熱門的領域之一，但目前還未得到很好的理解。 

可是，這個問題是有誤導性的。從複雜模式湧現出規律是一個數學過程，而不是現象學意義或經驗意義上的過程。通過 GPT 和 LLM 進行的神經網路類比沒法理解輸入的人類符號，也沒法理解它生成的輸出。它所做的是通過一系列數學和幾何演算法將問題轉化為答案。 

所以GPT（Generative Pre-training Transformer）才叫GPT，以人類資料作為輸入，以人類解釋的輸出進行訓練。 

人工神經網路無疑將推動機器智慧的發展。這些系統會不會產生意識或體驗到像人工神經元系統一樣的感覺則完全是另一回事。 

有人曾希望，只要處理能力和複雜性足夠，電腦系統就能「躍升」到產生意識的地步，但這個錯誤的希望在這個難題上仍然會破滅，因為地圖不是領土。 

錯誤的抽象及錯誤的同構

人們想訴諸於湧現、模式和複雜性等具有巨大錯誤解釋力的術語，來解釋複雜機器組件當中並不明顯的「更高級」功能的出現。 

人工智慧工程師將機器精神化，同時將思維機械化。他們的目標是透過大腦和電腦之間高度抽象的同構來消除心智與大腦之間的障礙，他們透過用軟體模擬神經網路來實現這一目標。可是，矽電路、大腦跟心智屬於完全不同的「種類」，或者不是一個性質層面。 

細胞、大腦和生物體都由物質構成。但生命比物質更重要。比方說，自創生，也就是自我維持和自我複製的能力，是生命所獨有的，在物理圈（physiosphere）是找不到的。 

物質比生命更基本，但重要性卻更低：摧毀完所有的生命，原子仍會繼續存在。摧毀完一切物質，生物圈（biosphere）也會隨之消失。物理圈是生物圈的一部分，但反之則不然（編者按：原文如此，應該反過來）。同樣的道理也適用於理性圈（noosphere），也就是思想所在的心理社會領域。心智圈比生物圈更重要，而生物圈又更加基礎。 

物質、生命及心智：每一層都增加了一個神秘的「額外內容」，進而創造出更大的深度或無法通過科學實現的，在本質上的提升。 

在實驗室裡面還沒有誕生過生命，意識也尚未從合成生命當中誕生。從死的物質中創造出意識是一個更艱巨的挑戰。可是，這並沒有阻止超人類主義的領袖雷蒙·庫茲維爾預測我們將能把我們的意識上傳到電腦裡面。 

拋開哲學上的細微差別，在質上的本質飛躍似乎源於在量上的複雜性的增加，但定義這種飛躍的構成或解釋為什麼會有這樣的飛躍我們仍然無法企及。 

類比可以讓我們理解為什麼這仍然是個謎。電腦跟管道、閥門以及供水系統沒有什麼不同。閥門就像可以打開和關閉的電晶體。管道是電路，水是電流。從運算的角度來看，認為它們同構是完全合理的：這些系統僅在數量或大小上有所不同，但在本質上並無不同。 

因此，這種管道跟閥門系統賦予龐大規模與極高複雜性之後，也可以複製任何現有電腦的操作。 

我們是否有充分的理由相信，我們是否有充分理由相信這樣的水管系統也能像大腦一樣產生私密的、有意識的內在體驗？做一個管道系統、閥門系統以及水系統也會有感覺？（編者注：此處引用了哲學家湯瑪斯‧內格爾的《做一隻蝙蝠是什麼感覺》）如果你對這個問題的回答是「是」，那麼邏輯就會迫使你開始懷疑你家裡的衛生系統——包括管道、閥門和水——是不是會有意識，當你出去度假時關掉主閥門是不是相當於謀殺。」

但區分秩序與複雜性的也是心智。因此，對模式、湧現和複雜性的訴求是本末倒置，因為心智會發現並定義模式、湧現和複雜性。大腦的神經模式極其複雜：數十億個神經元可能的組合數量超過了宇宙的原子數量 

這種複雜性應該消除人們對意識會從中「湧現」，並重新審視複雜性、模式以及「作為不理解它們」的湧現的標準。 

意識延伸於大腦之外：身體與生活世界

某些針對人工智慧和人工意識的最有力論證來自存在主義和現象學傳統，特別是艾德蒙德‧胡塞爾、馬丁‧海德格以及莫里斯‧梅洛-龐蒂（他深諳當時的神經科學）的思想。人工智慧科學家曾嘲笑和無視這些觀點，但這些觀點如今卻得到了最新的人工智慧研究的認可。 

不像很多人工智慧研究人員對智慧和意識在潛意識的認識一樣，我們不是「缸中之腦」。按照梅洛-龐蒂的「活生生的身體」（lived body）這個概念，跟環境的物理互動對於神經的正確發育與感知至關重要： 

如果小貓在大腦發育的關鍵早期幾個月內被抱在懷裡，允許它觀察周圍環境，但不讓它獨立活動，小貓就會出現嚴重的視力障礙。雖然小貓的眼睛和視神經在生理上是正常的，但它的進階視覺處理能力，如深度感知和物體辨識，就會受到嚴重損害。

大腦存在於人體的物理範圍內，與物理圈、生物圈以及理性圈有著錯綜複雜的關係。在人類存在的背景下，從根本上我們與心智的集體相連，並與由這些個體自我和文化所塑造的複雜社會文化結構緊密相關。 

海德格明確指出，我們的「存在」無法脫離其背景語境：我們的意識和自我並不是被存放在軀體或櫃子裡，而是融入與他人共同創造的有意義的生活世界中不可或缺的一部分。 

雖然基於胡塞爾、海德格和梅洛‧龐蒂幾十年前所提出思想的具身認知運動及其在人工智慧的整合體現出向前邁進了一步，但其本體論基礎仍然局限在大腦與神經系統之中。將心智擴展到具身並不能讓認知科學家解決一個核心問題，也就是理解、表徵或處理發生在自身之外的事物或事件，並為其主人和其他人從這種「相關性」（aboutness）中創造一個生活世界的問題。 

此外，具身認知還導致了這樣一種悖論：從運算角度進行推理比運算感知和感覺運動技能要簡單得多。儘管無數次預測全自動無人駕駛（ ADV ）即將問世均屢屢失敗，我們仍沒法將智慧融入到車輛，讓它們實現自動駕駛。儘管大肆宣傳，但人工智慧仍沒法把碗裝滿你的洗碗機，近期內都不會。 

靠增加指數級的運算資源來解決難題並不能解決問題，只能極大地改善模擬。這些資源的應用仍然是人工智慧邁向（其無法到達的）意識領域的一個開放式的進步。 

結論

意識和心智不僅僅是自然的寫照： 

認知不是通過預先給定的思維來表徵預先給定的世界，而是在世界存在物所進行的各種行為的歷史基礎上對世界和思維的演繹。（Varella，2016）

認知是預先存在的心智對預先存在的世界的表徵，而是世界和心智基於生物體在世界執行各種行動的歷史而實施的過程（Varella，2016） 

現象學家提出的挑戰仍然存在。大腦和神經系統要靠科學家的思想去感知、解剖和實驗：大腦位於思想與意識之中，而不是反過來。 

如果意識的難題——以及機器的意識——被誤解了會怎樣？ 

如果意識是根本，物質是意識的附帶現象，而我們卻面臨物質的難題會怎樣？雖然這聽起來不符合直覺，但不妨思考一下： 

我們是否知道任何存在於我們的經驗（感覺、知覺、思考……）之外的事物呢？

如果你對這個問題的回答是否定的話，那你就會明白，科學可以創造意識這個信念不過是人工智慧的迪士尼化罷了。 

機器中的幽靈只是個幽靈罷了。