ChatGPT挑起的生成式AI競賽背後,有一個「骯髒」的秘密

ChatGPT挑起的生成式AI競賽背後,有一個「骯髒」的秘密

ADVERTISEMENT

科技巨頭Google和微軟近期宣布對他們的搜尋引擎進行重大改革,將生成式人工智慧工具整合進搜尋中,以提供更豐富、更準確的體驗。然而,背後可能隱藏著一個骯髒的秘密:構建高性能人工智慧搜尋引擎的競賽可能需要運算能力的大幅提升,隨之而來的是科技公司所需的能源和碳排放量的大幅增加。

生成式AI的運算需求

訓練大型語言模型(LLMs),比如OpenAI的ChatGPT,以及Google的同類產品Bard,意味著在大量資料中解析和運算聯繫,這就是這些模型往往是由擁有大量資源的公司開發的原因。這些模型需要大量的運算能力,目前只有大型科技公司才能訓練這些模型。

雖然OpenAI和Google都沒有說過他們各自產品的運算成本是多少,但研究人員的協力廠商分析估計,ChatGPT部分基於GPT-3的訓練消耗了1287兆瓦時,並導致了超過550噸的二氧化碳排放量。

加拿大資料中心公司QScale聯合創始人馬丁·布沙爾(Martin Bouchard)認為,在這一過程中加入生成式人工智慧,需要「每次搜尋至少增加4到5倍的運算量」。他指出,ChatGPT目前對2021年底之後的事情是不理解的,這在一定程度上減少了運算需求。但為了滿足搜尋引擎使用者日益增長的需求,這將不得不改變。

環境足跡和能源成本

為了減少「將人工智慧整合到搜尋中」的環境足跡和能源成本,可以將資料中心轉移到更清潔的能源上,以及重新設計神經網路以提高效率,減少所謂的「推理時間」(即演算法在新資料上工作所需的運算能力)。

谷歌發言人珍·派克(Jane Park)告訴《連線》雜誌,Google最初發表的Bard版本是由一個羽量級大型語言模型提供支援的。派克說:「我們還發表了一項研究,詳細介紹了最先進的語言模型的能源成本,包括早期和更大版本的LaMDA。我們的研究結果表明,將高效的模型、處理器和資料中心與清潔能源相結合,可以將[機器學習]系統的碳足跡減少1000倍。」

承諾減少碳排放

營運搜尋引擎的公司已承諾將減少自身對全球變暖的淨貢獻。微軟已經承諾到2050年實現碳負排放,計畫今年購買150萬噸碳信用額度。Google承諾到2030年在其整個業務和價值鏈實現淨零排放。OpenAI和微軟沒有回應記者的置評請求。

可持續性和效率

謝菲爾德大學自然語言處理講師納菲思·沙達特·穆塞維(Nafise Sadat Moosavi)說:「我們必須研究如何減少這種大型模型所需的推理時間,」她致力於自然語言處理的可持續性研究,「現在是關注效率方面的一個好時機。」

雖然關注LLMs產生的能源和碳足跡很重要,但我們也需要注意到大型語言模型的積極方面。穆塞維說:「這對終端使用者來說是件好事。因為之前的大型語言模型並不是每個人都能使用得到的。」

結論

生成式人工智慧的應用帶來了更準確和豐富的搜尋體驗,但需要更多運算能力和能源,這也意味著更高的碳排放。為了實現可持續性,科技公司需要轉向更清潔的能源和更高效的技術,以減少對環境的影響。

36Kr
作者

36氪(36Kr.com)累計發表超過10.8萬條包含圖文、音訊、影片在內的優質內容。氪原創內容體系涵蓋新創公司、大公司、投資機構、地方產業與二級市場等內容模組,設置有快訊、深度商業報導

使用 Facebook 留言
Yang Wenli
1.  Yang Wenli (發表於 2023年3月03日 10:21)
預測所有碳排協議最終失敗絕對會升溫1.5度以上除非有冰河期到來.(≧▽≦)
發表回應
謹慎發言,尊重彼此。按此展開留言規則