Intel發表MLPerf Traning 3.0成績，表示Habana Gaudi 2、Xeon可擴充處理器取得優異成果

Intel發表業界AI效能基準測試MLPerf Traning 3.0成績，其中Habana Gaudi 2深度學習加速器和第4代Xeon可擴充處理器均有著優異表現。

Intel也能完成GPT-3測試

Intel表示在最新的MLPerf Traning 3.0測試結果中，突顯自家產品在多種深度學習模型上的效能表現，以Gaudi2為基礎的軟體和系統在大型語言模型GPT-3上驗證了大規模的訓練成熟度，也是與NVIDIA H100 GPU成為唯二提交GPT-3 LLM訓練基準測試的解決方案。這個成果不但代表Intel產品也有能力執行生成式AI和LLM（大型語言模型），也為希望擺脫限制效率和規模的封閉生態系的客戶提供第二選項。

雖然在測試成績的GPT-3訓練時間項目中，H100 GPU僅花費10.94分鐘，而Gaudi 2則為311分鐘，但前者使用3,584組GPU，Gaudi 2則僅使用384個加速器。另一方面，Gaudi 2從256個加速器增加至384個加速器的效能增益達到95%，呈現良好的線性比例。

• 延伸閱讀：NVIDIA發表新版MLPerf 3.0測試成績，加入大型語言模型與推薦系統基準測試

在處理器方面，搭載AI引擎的第4代Xeon可擴充處理器展讓客戶可以藉由Xeon伺服器建構單一通用AI系統，用以資料預處理、模型訓練和部署，藉此提供AI效能、效率、準確性和可擴展性的正確組合。

▲ Habana Gaudi2加速器在MLPerf Traning 3.0中提交GPT-3訓練測試成績。圖為Gaudi2之夾層卡（Mezzanine Card），。

▲ 代號為Sapphire Rapids的第4代Xeon可擴充處理器整合了AI加速器，能夠提升AI運算效能。

▲ 參考MLPerf官方網站提供的數據，列出Gaudi2與H100於MLPerf Traning 3.0 GPT-3訓練的最佳成績。

▲ 將成績標準化後，可以反映單一加速器或GPU的效能表現。

Intel也說明Gaudi提供極具競爭力的伺服器和系統成本優勢，在GPT-3、電腦視覺和自然語言模型上經過MLPerf驗證的效能，加上即將推出的軟體進展，讓Gaudi2相對於NVIDIA H100而言，在性價比上成為極具吸引力的選擇。