NVIDIA公布Hopper H100 GPU跑分，MLPerf效能測試最高領先前代產品達4.5倍

NVIDIA公布H100 GPU於MLPerf基準測試初登板的成績，效能不但較前代產品高出達4.5倍，更在各項推論作業創下世界紀錄。

Hopper刷新世界紀錄

MLPerf是由學術界、研究實驗室和業界人士共同組成的組織，旨在打造公正且能夠反映實際應用情境的AI運算測試基準。

這次採用Hopper架構的H100 GPU首次公開展示MLPerf成績，受益於Transformer引擎的效能增益，讓H100在面對規模最大、效能要求最高模型之一的BERT自然語言處理模型有著極為出色的表現，在ResNet-50、RetinaNet等影像分類、物件偵測模型中，大約也有前代產品1.5倍以上的效能表現，並可在所有測試結果中持續保持全面領先地位。

除了全新GPU有著亮眼成績之外，NVIDIA持續為各大雲端服務供應商與系統製造商採用A100 GPU進行軟體最佳化，自2020年7月首次參與MLPerf基準測試以來，NVIDIA已經透過持續改善軟體將效能表現提高6倍，讓A100 GPU在資料中心與邊緣運算的類別和情境中的成績比其他競爭對手更為突出。

▲ NVIDIA Hopper G100 GPU進在MLPerf人工智慧推論基準測試初登場即刷新世界紀錄。

▲ H100 GPU能在所有項目保持全面領先，BERT自然語言處理模型的運算效能可達前代產品的4.5倍。

NVIDIA表示這次的MLPerf推論基準測試是H100 GPU首次公開展示，此產品將於2022年底上市，H100 GPU將繼續參與MLPerf日後的訓練測試。