買了10萬張NVIDIA GPU就要好好用,馬斯克宣佈「世界最強AI」Grok-3 已經開始訓練

買了10萬張NVIDIA GPU就要好好用,馬斯克宣佈「世界最強AI」Grok-3 已經開始訓練

馬斯克在旗下社群平台X上表示,xAI團隊、X團隊、NVIDIA及其他支援公司已經於當地時間凌晨4時20分開始在「孟菲斯超級叢集(Memphis Supercluster)」上進行訓練。

他介紹,「孟菲斯超級叢集」由10萬個液冷H100 GPU組成,在單個RDMA結構(即遠端直接資料儲存結構,可解決網路傳輸中伺服器端資料處理的延遲)上運行,是世界上最強大的人工智慧訓練叢集。

馬斯克還補充說,目標是在今年12月前訓練出按每項指標衡量都是世界上最強大的人工智慧。

此前,馬斯克就曾透露,將用該叢集訓練xAI旗下第三代大型語言模型Grok-3。

買了10萬張NVIDIA GPU就要好好用,馬斯克宣佈「世界最強AI」Grok-3 已經開始訓練

今年5月份,馬斯克透露,旗下人工智慧企業xAI計畫打造一台超級電腦,名為「算力的超級工廠」,預計規模是市場上最強大競爭對手的四倍。該電腦將採用NVIDIAH100 GPU。

一年前,xAI宣佈正式成立,並表示公司的宗旨是瞭解宇宙的真實本質。xAI在官網表示,「我們是一家獨立於X Corp的公司,但將與X、特斯拉和其他公司密切合作,以實現使命。」

2023年11月,xAI發佈第一款大型語言模型Grok-1。

本月,馬斯克宣佈Grok-2將於8月推出,將帶來更先進的AI功能。同時他還透露,Grok-3將使用10萬塊NVIDIA H100晶片進行訓練,預計將於年底發佈,相信它會非常特別。

今年5月份,xAI宣佈獲得60億美元B輪融資,主要投資者包括安德森·霍洛維茨基金(Andreessen Horowitz)、紅杉資本(Sequoia Capital)等。xAI的投前估值為180億美元,本輪融資後的投後估值將達到240億美元。

在AI潮流下,算力已經成為科技巨頭們的必爭之地。Meta公司在今年1月透露,公司計畫到今年年底部署35萬塊NVIDIAH100 GPU,將Meta的算力擴展到相當於60萬塊NVIDIAH100 GPU的水平;微軟和OpenAI在計畫建構一台名為「星際之門」的新超級電腦,其成本可能高達1000億美元,並計畫在2030年完全開發完成。

 

 

NetEase
作者

網易科技,有態度的科技門戶!關注微信公眾號(tech_163),看有態度的深度內容。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則