OpenAI開發GPT-5不能停！重量級AI人士跳出來反對千人聯名的暫停計畫

千人聯名要求「暫停巨型AI實驗」在網路上經過一天的發酵，現在各方聲音都已經開始湧現出來。繼LeCun之後，史丹福大學計算機科學系和電氣工程系的客座教授，曾任史丹佛人工智慧實驗室主任吳恩達、Facebook人工智慧研究院智慧型圍棋項目的負責人田淵棟等AI重量級人士也發文公開反對「千人聯名」。 

延伸閱讀：為什麼上千位專家要呼籲別再開發GPT-5了？馬斯克等人聯名：所有比GPT-4先進的系統暫停研發6個月

吳恩達表示，在GPT-4出現之後要求AI訓練暫停6個月是很可怕的事情： 

它（GPT-4）在教育、醫療保健、食品等領域都有很多新的應用，這將幫助許多人。

1/The call for a 6 month moratorium on making AI progress beyond GPT-4 is a terrible idea.

I'm seeing many new applications in education, healthcare, food, ... that'll help many people. Improving GPT-4 will help. Lets balance the huge value AI is creating vs. realistic risks.

— Andrew Ng (@AndrewYNg) March 29, 2023

隨後田淵棟也轉發並附議，稱「我不簽暫停令」，並將AI的發展比作囚徒困境： 

一旦開始，就沒有辦法停止或扭轉這一趨勢，這就是進化的必然。
應該換個角度繼續向前看，更好地理解 LLM，適應它並利用其力量，感受熱度。

I do not sign the moratorium. Once started, everyone faces prison's dilemma and there is no way to stop/reverse the trend. That's how evolution works. One alternative approach is to look forward: to understand LLMs better, be adaptive and harness its power. Feel the heat. https://t.co/OkqAJA0JKj

— Yuandong Tian (@tydsh) March 29, 2023 

在吳恩達的發文下面，Meta資料科學家林致遠，NVIDIA AI研究科學家Jim Fan也都表示贊同。

對於這個暫停令，還有一些領域大佬「妙語連珠」了起來： 

本特利大學的數學教授表示，那既然這樣，我呼籲暫停碳排放6個月，這樣我們就可以在此期間解決氣候變化問題。

谷歌大腦的高級研究員Yi Tay直接調侃，如果是把那些在網上胡亂討論大語言模型（LLM）的人禁止發言6個月，我會簽的。

 

• 相關文章： OpenAI 正式推出 GPT-4 大型語言模型，ChatGPT 更聰明了！在諸多測試中表現比人類都好

而處於這場討論中心的無疑是OpenAI，CEO阿特曼今早也發了一條「展望未來AGI」的推文，疑似對昨天這場風波做出回應： 

一個好的AGI應該具備這三個特點：

1、對超級智慧的技術能力有共識；2、大多數領先AGI之間的充分協調；3、一個有效的全球監管框架。

「潘朵拉的盒子」已經打開

在吳恩達的發文裡，除了上面提到的應用價值外，他還從競爭、風險以及AI發展的角度詳細闡明了「為什麼要反對暫停令」。 

首先是競爭方面，讓協力廠商暫停他們不瞭解的新興技術是反競爭的，樹立了一個可怕的先例，是糟糕的創新政策。 

然後是AI風險，目前很多串流媒體平臺渲染的「AI公司瘋狂發送不安全程式碼」是不正確的，絕大多數AI團隊都十分注重人工智慧的安全問題。 

最後再回到「6個月暫停令」本身，這並不是一個非常切實可行的建議，是在扼殺AI進步。 

要提高人工智慧的安全性，應該是在安全方面進行更大的投資，有關透明度和審計的規定將更加切實可行。

對此，有網友也同樣聚焦「6個月的暫停」呼籲，稱「要求暫停」並不能讓訴求更好地被解決：

暫停令即使出於好意，也會讓更微妙、更有建設性的對話變得更難進行。

 

當然也有人質疑起了馬斯克、班吉歐等人發起「暫停巨型AI實驗」的動機，將其歸結為巨頭之間的利益之爭，認為是自己落後太多，要求領先者先暫停。 

對於發起者以及簽署者們的心理，網友直接銳評道：簽署暫停是因為他們不信任人工智慧嗎？不是，是因為他們不信任人類；也有網友直接將AI發展比作潘朵拉的盒子：一旦打開，一切都不可避免了。

The only true reason behind the letter from #AI experts with concerns about the risks of AI and #AGI asking to stop training beyond #GPT4 isn't that they don't trust AI, it is that they are correctly don't trust humans.

— Ali Fardinpour (Phd) (@XRImagineer) March 30, 2023

•  相關文章： 打造ChatGPT有多燒錢？享受AI自由的同時，付出的代價是普通搜尋引擎的10倍之多

利益之爭？

雖說外部的看熱鬧的人並不清楚「暫停令」的發起者或簽署者們是不是有什麼私心，但僅僅將這條呼籲歸結為利益之爭肯定是不全面的。 

那為什麼他們要發起這項呼籲？為什麼非得是暫停六個月呢？ 

先是為什麼要發起這項呼籲，在那封公開信「暫停巨型AI實驗」已經有講明一些原因。 

而為什麼非要暫停六個月，或許可以從贊同的聲音中窺探到一些其他答案。

贊成的網友這邊，有人稱正是因為AI發展像「潘朵拉的魔盒」，但目前還沒有被打開，還有挽救的餘地：

任何具有實驗室逃逸潛力的研究都應該受到國際監管，我們應該盡力去挽回，但如果你釋放了一些無法挽回的東西，我們就有麻煩了。

還有一種觀點是，目前的AI發展成果已經足夠人類使用，暫停幾個月也無妨： 

GPT-4夠用了，僅僅是最佳化它和擴充外掛程式就能滿足至少幾年的需求，我們現在需要更多的時間來理解AI如何與網際網路路互動，並且我認為測試越來越強大的AI是危險的。

 

當然在這樣一群爭論中，還有一股清流，無所謂「AI安全」，甚至有人直接稱：我們羰基生物本來就是開啟矽基生命的鑰匙罷了。  

對於這長達一天多的「是否暫停巨型AI實驗」之爭，網友一針見血地總結：有的人看到利益，有的人看到文明，有的人看到熱鬧。 

人工智慧安全的問題該如何解決？暫停AI發展是明智之舉嗎？還有沒有其他方法？