Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

Google傳奇創始人,千億美元身價的布林,上週末現身AI駭客馬拉松現場。他現場分享了關於修復Gemini大型語言模型bug的問題,一下子引起熱議。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

在將近40分鐘的演講中,布林談到了Gemini開發內幕、AGI、AI對社會影響的看法等,還誠實地回答了大家的許多問題。

有在現場的Google前研究科學家曬出合影,並表示非常受啟發。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

承認了內部測試不充分

特別是當被問到對Gemini繪畫在種族問題上翻車的看法時,布林承認了內部測試不充分的錯誤並道歉

他也承認了“模型中確實有我們還沒有完全理解的部分”,並介紹在最近的修復工作中至少已經改善了80%。

此前Gemini文生圖刻意拒絕生成白人形象,在歐美輿論環境下引發巨大爭議。後續該功能被迫下架,母公司AlphaBet股價下跌一度超過11%,帶來非常嚴重的後果。

根據Business Insider消息,華爾街方面甚至出現越來越多要求現任CEO下台的聲音

對此有網友認為,布林這次出席線下開發者活動,比Google這兩週來進行的任何危機公關都要有效

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

對於這場駭客松活動,Google內部也有不少人感到振奮,比如ViT作者Lucas Bayer:我們終於對為Gemini做了一些真正酷的事情,而不是一些SVP們複製貼上部落格文章。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

Gemini 1.5的發佈是個意外

這是一場以Gemini 1.5為主題的駭客馬拉松活動。

開發者們週末背著筆電聚到一起,組隊在有限時間內開發AI應用原型。

這也是屬於程式設計師、極客們的一種獨特的社群活動,比如這位顯眼包老哥就穿著奇裝異服來,關於Gemini翻車的刁鑽問題就是他問的。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

活動開場,當主持人介紹Google創始人布林是這一場的特邀演講嘉賓,現場掌聲雷動。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

首先布林透露,大家正在把玩的Gemini 1.5 Pro模型的誕生其實只是個意外

Gemini 1.5在內部開發時候的代號是金魚(goldfish),就挺諷刺的。

金魚以記憶力短著稱,沒想到最後訓練出來的模型擁有非常強大的“記憶力”(百萬token上下文窗口)。

當我們訓練它的時候,只是作為擴大規模實驗的一個嘗試,根本沒想到會變得如此強大。

當看到它的表現時,我們不想再等待,我們想讓全世界都來試試它。」

有聽眾好奇詢問布林自己在大型語言模型開發中的貢獻,他對此還挺謙虛。

「我沒有在寫那種會讓大家印象深刻的程式碼,但是每隔一段時間會做一些偵錯,以及搞一些讓自己理解模型如何工作的試驗,包括分析模型的性能表現。」

在場開發者比較關心的一個問題是Gemini API現在非常便宜,以後會漲價嗎?

布林表示不打算提高價格。一方面模型的推理最佳化方面一直在持續改進,Google在TPU推理方面做的非常好。另一方面是小模型越來越有效。

大家最關心的另一個話題是AI對程式設計師工作的影響,布林對此持開放態度,認為AI可以幫助提高程式的安全性,並且AI在編寫單元測試方面做得很好。

對於Google自己的廣告業務,布林也並不擔心。他預計商業模式會隨著時間推移而變化,但無論廣告如何變化,AI都能更好地定製廣告,讓你更喜歡它。

「AI正在交付巨大的價值,節省了你的時間或勞動。

我個人認為,只要創造了巨大的價值,總會找到商業模式。」

除了自家搜尋業務外,布林認為很難預測哪些垂直行業將受到AI衝擊

除了大家都能看到的客服或工作流程自動化、涉及長文件分析的行業之外,未來還會有不那麼明顯的行業出現

Gemini核心貢獻者,還學習量子場論

自從ChatGPT讓Google內部拉響“紅色警報”後,布林就從半退休中回歸了。

除了開高層戰略會議,發揮自己手上保留的超級投票權股票的影響力,還親自參與開發工作。

有JAX框架團隊的員工透露,曾與布林一起在辦公室待到凌晨1點,在Colab上修復了一個bug。

他在幾分鐘之內就理解了我的程式碼,真是頂級科學家、頂級工程師,很高興能和他合作。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

等到Gemini大型語言模型終於發佈,核心貢獻者名單中也出現他的名字。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

這件事還掀起了一陣八卦爆料熱潮。

Perplexity CEO透露,2022年布林參加Stability AI發佈活動,特意找到了Transformer架構論文作者Ashish Vaswani聊了兩句。

他們沒有閒聊家常,聊的是“為什麼選擇正弦位置嵌入,是否嘗試過其它變體”。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

Stability AI創始人Emad Mostaque也來證實確有此事,“他詢問我的是VAE架構和擴散模型的問題”。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

前GoogleX員工、現Normal Computing聯合創始人兼CEO Faris Sbahi也被炸出來爆料:

「我和布林以及一小撮GoogleAI成員一起參加了Lenny Susskind教授的量子場論課。
布林總是很投入,認認真真做課後作業,提出的問題頗有見地。」

One More Thing

布林線下技術演講的同時,祖克柏正在盛裝出席印度首富之子Anant Ambani的婚前派對。

小扎這段時間曬出了不少穿華麗服飾的照片。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

雖然兩件事並不直接相關,但同為科技巨頭創始人,表現出來的反差感還是讓很多網友拿來比較。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

有網友諷刺道,祖克柏學到了“確保自己不被印度CEO替代的方法就是自己成為一個印度CEO”。

Google創始人布林談Gemini開發內幕:Gemini 1.5 Pro的誕生是意外、Bug的確是測試不夠完全

稿源:量子位

Qbitai
作者

量子位(Qbitai)專注於人工智慧及前沿科技領域,提供技術研發趨勢、科技企業動態、新創公司報道等最新資訊,以及機器學習入門資源、電腦科學最新研究論文、開源程式碼和工具的相關報導。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則