ADVERTISEMENT
馬斯克在旗下社群平台X上表示,xAI團隊、X團隊、NVIDIA及其他支援公司已經於當地時間凌晨4時20分開始在「孟菲斯超級叢集(Memphis Supercluster)」上進行訓練。
他介紹,「孟菲斯超級叢集」由10萬個液冷H100 GPU組成,在單個RDMA結構(即遠端直接資料儲存結構,可解決網路傳輸中伺服器端資料處理的延遲)上運行,是世界上最強大的人工智慧訓練叢集。
馬斯克還補充說,目標是在今年12月前訓練出按每項指標衡量都是世界上最強大的人工智慧。
ADVERTISEMENT
此前,馬斯克就曾透露,將用該叢集訓練xAI旗下第三代大型語言模型Grok-3。
今年5月份,馬斯克透露,旗下人工智慧企業xAI計畫打造一台超級電腦,名為「算力的超級工廠」,預計規模是市場上最強大競爭對手的四倍。該電腦將採用NVIDIAH100 GPU。
ADVERTISEMENT
一年前,xAI宣佈正式成立,並表示公司的宗旨是瞭解宇宙的真實本質。xAI在官網表示,「我們是一家獨立於X Corp的公司,但將與X、特斯拉和其他公司密切合作,以實現使命。」
2023年11月,xAI發佈第一款大型語言模型Grok-1。
本月,馬斯克宣佈Grok-2將於8月推出,將帶來更先進的AI功能。同時他還透露,Grok-3將使用10萬塊NVIDIA H100晶片進行訓練,預計將於年底發佈,相信它會非常特別。
ADVERTISEMENT
今年5月份,xAI宣佈獲得60億美元B輪融資,主要投資者包括安德森·霍洛維茨基金(Andreessen Horowitz)、紅杉資本(Sequoia Capital)等。xAI的投前估值為180億美元,本輪融資後的投後估值將達到240億美元。
在AI潮流下,算力已經成為科技巨頭們的必爭之地。Meta公司在今年1月透露,公司計畫到今年年底部署35萬塊NVIDIAH100 GPU,將Meta的算力擴展到相當於60萬塊NVIDIAH100 GPU的水平;微軟和OpenAI在計畫建構一台名為「星際之門」的新超級電腦,其成本可能高達1000億美元,並計畫在2030年完全開發完成。
ADVERTISEMENT
- 延伸閱讀:馬斯克預告用了10萬張NVIDIA H100卡來訓練Grok 3,預計年底上線
- 延伸閱讀:馬斯克批評現在的AI都被訓練的太政確而不誠實,並承認目前Grok不如ChatGPT
- 延伸閱讀:馬斯克版 ChatGPT 「Grok」,用起來和它老闆一樣嘴賤愛酸人
ADVERTISEMENT