NVIDIA於Microsoft Ignite 2023大會發表多項合作項目，也將為Azure雲端運算搭載H100、H200 GPU

NVIDIA與Microsoft在美國西雅圖舉行的Ignite 2023大會共同宣布多項資訊，包括於Azure引入NC H100 v5虛擬機系列，並在明年引入H200，以加速高要求的人工智慧工作負載。

業界首款H100 NVL GPU雲端執行個體

Microsoft於Ignite 2023大會宣布於Azure雲端運算服務導入NC H100 v5虛擬機系列，它是業界款配備NVIDIA H100 NVL GPU的雲端執行個體，雖然其GPU採用PCIe介面，但透過NVLink讓2組GPU互連為單一運算單元，提供4PFLOPS的AI運算運算效能與容量高達188GB的HBM3記憶體，適合進行推論和主流訓練工作。

Microsoft也表示計劃於明年在Azure雲端運算服務導入搭載141GB HBM3e記憶體的H200 GPU，能在不增加延遲的前提下支援規模更大AI模型的推論，強化大型語言模型和生成式人工智慧模型的應用。

• 延伸閱讀：NVIDIA發表搭載HBM3e記憶體的H200 GPU，同時帶來4連裝水冷版Quad GH200

此外NVIDIA也宣布在Omniverse Cloud上新增虛擬工廠與自駕車模擬引擎，並託管於Azure以提供一站式服務，協助汽車製造商數位轉型。

在個人電腦方面，NVIDIA將持續推動RTX平台發展，並提供TensorRT-LLM軟體強化大型語言模型的效能與應用。

▲ NVIDIA表示生成示AI在金融、醫療、零售、電訊、媒體與娛樂、製造等多種產業都能發揮功用。

▲ NVIDIA與Microsoft將合作於Azure雲端運算平台推出AI Foundation服務，協助企業在現有基礎AI模型上打造客製化模型。

▲ NVIDIA DGX Cloud現在也可以在Azure市集取得，讓企業得以快速導入AI Enterprise。

▲ Microsoft將推出搭載NVIDIA H100 NVL GPU的NC H100 v5虛擬機系列，並於2024年在Azure導入H200 GPU。

▲ NVIDIA將於Omniverse Cloud新增虛擬工廠與自駕車模擬引擎，並託管於Azure。

▲ 在個人電腦應用部分除了有RTX遊戲、AI算圖、影片強化、視訊會議強化等功能之外，也有與Windows整合更密切的Co-pilot功能。

▲ NVIDIA也會提供Windows端的軟體，透過TensorRT-LLM最佳化可帶來最高5倍的Llama2 7B INT4大型語言模型執行效能。

▲ TensorRT-LLM也將提供VSCode外掛軟體協助程式開發者改善工作流程。

更多Microsoft Ignite 2023大會的資訊可以參考官方網站。