NVIDIA推出GB200 NLV4，可能在3月推出GB300

NVIDIA 推出新款 AI 晶片平台 GB200 NLV4，採用 Grace CPU 和 Blackwell GPU，兼顧效能與節能，專為現代資料中心打造。

對於中型規模或是特別注重節能的組織來說，GB200 NVL4 會是個好選擇！NVL72 適合大規模部署，而且有特殊的連接器，可以串接更多機器，就像脊椎骨一樣。但 NVL4 就比較精簡、更省電，很適合不需要用到 NVL72 那麼多功能的組織。

NVIDIA推出的 GB200 NLV4 正好滿足了市場上的一個重要需求。不僅如此，NVIDIA 還打算在 2025 年 3 月 17 日到 20 日的 GTC (GPU 技術大會) 上，發表下一代的 GB300 AI 伺服器平台。這個新平台會搭載最新的 B300 AI GPU，功率高達 1400W，FP4 (一種運算能力指標) 性能比 B200 提升了 1.5 倍，效能更強大！

分析認為，NVIDIA 推出 GB200 NVL4之際，正好趕上他們產品線更新換代的時候。輝達打算逐步淘汰舊的 NVL 平台，改用 NVL4 之類更新、更強的產品。

平衡性能與能源效率

GB200 NVL4 的核心是兩顆 Grace CPU (中央處理器)，它們採用了 Arm (安謀) 的架構和 Neoverse V2 核心，每顆 CPU 有 72 個核心，加起來總共有 144 個核心，提供強大的運算能力來執行高效能任務。此外，GB200 NVL4 還配備了四個 Blackwell GPU (圖形處理器)，讓 AI 運算能力更上一層樓。

分析師表示，這一組態特別適合AI、高性能運算（HPC）和其他資料密集型應用。

另外，GB200 NVL4還在每顆CPU下方配備了六個MCIO連接器，確保其提供快速的PCIe連接，進而支援無縫的資料傳輸。這些連接器支援網路介面卡（NIC）、固態硬碟（SSD）和其他關鍵元件的內建，使系統具備靈活性和可擴展性。

記憶體方面，GB200 NVL4提供最多1.3 TB的聯合記憶體，專為記憶體密集型工作負載的組織設計，確保了資料的高效處理。

除了強大的性能外，GB200 NVL4的另一大亮點是其能源效率。

NVIDIA預計，完全組態的伺服器將消耗約6kW的電力。雖然這一功耗不容小覷，但相比NVIDIA早期的系統，如DGX-1或HGX-1，功耗大約為3.5kW，GB200 NVL4的功耗僅為一半左右。

還將推出GB300？

據報導，NVIDIA計畫在2025年3月17日至20日的GTC大會上發表其下一代GB300 AI伺服器平台，搭載新款B300 AI GPU，功率高達1400W，FP4性能是B200的1.5倍。

目前，NVIDIA的GB200 AI使用的是192GB HBM3E記憶體，採用8層堆疊組態，GB300將使用288GB HBM3E記憶體，採用12層堆疊，這一技術由SK hynix開發。

GB300 AI 伺服器平台的連接速度大幅提升！它的光模組速度從 800G 提升到超快的 1.6T，讓資料傳輸更快速。

此外，GB300 還做了不少升級：

採用插槽設計: 讓零件更容易替換和升級。
使用 LPCAMM 記憶體: 提升記憶體效能和穩定性。
電容托盤: 可能會成為下一代 GB300 NVL72 AI 伺服器機櫃的標準配備，提供更穩定的電力供應。
UDN (聯合新聞網) 還提到，BBU (備用電池單元) 可能會變成選配，讓使用者可以根據自己的需求選擇是否要加裝。

總之，GB300 AI 伺服器平台在連接速度、擴充性和穩定性方面都有顯著的提升。毫無疑問，這樣豪華的組合，預計元件的成本將相當可觀。

分析師預估，BBU 模組 (備用電池單元) 大量生產後的價格大約是 300 美元，而一台 GB300 AI 伺服器如果要裝 BBU 的話，總價可能會到 1500 美元。另外，超電容的生產成本預計落在 20 到 25 美元之間，而 GB300 NVL72 AI 伺服器機櫃會需要 300 多個超電容。