【GTC 2025】黃仁勳演說深入分析:提出「終極摩爾定律」,追求相同耗電更高效能

ADVERTISEMENT

矽光子節能並提升資料中心運算密度

黃仁勳提到過去伺服器與資料中心常用銅線建置網路(筆者註:指一般金屬導線之網路線),這類線材很適合應用於1至2米範圍或是距離較短的設立,但是隨著資料中心的規模越來越大、伺服器的數量越來越多,彼此的距離也隨之增加,因此需要使用更長的網路線,並使用光纖取代銅線以解決訊號衰退的問題。

但是傳統的傳統光纖網路交換器需要額外安裝光纖模組,每個端子的資料處理器(DSP)與雷射模組共計消耗30 W電力,為了要連接數量龐大的伺服器,整體電力的開銷也是相當可觀。

為了降低光纖網路系統的耗電量,NVIDIA發表與TSMC(台積電)以及多位生太系統合作夥伴共同研發的共同封裝光學技術(Co-Packaged Optics,CPO),這系列矽光子網路交換器採用TSMC微型環狀調變器(Micro-Ring Modulator,MRM),光學引擎與雷射光源僅消耗9 W電力,且低訊號衰退更低,提供更可靠、省電、高品質的資料交換與通訊。

資料中心轉移至矽光子網路交換器在於能夠省下通訊使用的電力,並在總體電力限制不變的前提下,將電力轉移給更多CPU與GPU使用以提升更多運算能力,進而提高資料中心的收益。對整體資料中心而言,這個發展趨勢也符合前面提到的「終極摩爾定律」。

矽光子網路交換器的詳細介紹與圖文特色說明可參考《GTC會前簡報》一文。

NVIDIA預計於2025年下半推出搭載共同封裝光學技術的Spectrum-X Photonics矽光子Ethernet網路交換器,Quantum-X Photonics矽光子InfiniBand網路交換器則需等到2026年下半。

黃仁勳於演說中拿出光纖模組說明傳統光纖網路交換器較為耗電的原因。

矽光子網路交換器將光通訊元件整合於在晶片封裝,能夠將原本30 W的功耗降低至9 W。

位於晶片封裝上的光學引擎能夠節省3.5倍電力,當伺服器數量一多,節省的總電力也相當可觀,有助於在總體電力限制下擠出更多運算能力。

具有144組800Gb/s InfiniBand連接埠的Quantum-X Photonics 3450-LD交換器採用液冷設計。Spectrum-X Photonics交換器則提供128組800Gb/s連接埠的SN6810與512組200Gb/s連接埠的SN6800等型號。。

想要買一台DGX Station放家裡嗎?

黃仁勳在演說中特別拿出DGX Station的主機板,說明它是它桌上型電腦尺寸的AI工作站,搭載GB300 Superchip,具有容量高達784 GB的統一記憶體,能夠提供20 PFLOPS的FP4資料類型AI運算效能,並搭載網路頻寬達800 gigabits的ConnectX-8 SuperNIC,能夠高速連接多個DGX Station以處理更大規模的工作負載。

另一方面,黃仁勳也特別強調DGX Station具有3組PCIe Gen 5x16擴充插槽,能夠加裝RTX PRO 6000 Blackwell等多款運算卡來提升整體運算效能,為進階使用者與小型工作室提供大規模AI訓練與推理運算的充沛效能。

如果覺得DGX Station超出預算,也可以考慮先前在CES 25亮相、後來正式定名為DGX Spark的迷你超級電腦,它的尺寸更小、價格更低,並具有1000 TOPS的峰值AI運算效能。

黃仁勳在介紹DGX Station特別強調它具有PCIe。擴充插槽能夠加裝運算卡提升整體運算效能。

DGX Station搭載GB300 Superchip運算單元以及ConnectX-8 SuperNIC網路卡,並具有784 GB記憶體。

除了DGX Station之外,對運算能力需求較低的使用者也可考慮圖片左方的DGX Spark迷你超級電腦,或使用RTX Pro運算卡建置工作站。

自駕車模型蒸餾與GR00T N1開源機器人模型

NVIDIA也於發表Halos自動駕駛安全系統堆疊,它整合車輛架構、AI模型、晶片、軟體、工具、服務等多個面向,提供從雲端到車輛的安全開發環境。

另一個重大消息為NVIDIA將以開源型式釋出GR00T N1機器人基礎模型,提供通用人形機器人推理能力和多種技能。

黃仁勳也在演說中提到在自駕車領域透過Cosmos的生成式世界基礎模型搭配模型蒸餾技術,一方面加速模型開發,另一方面降低行駛時AI推論運算的資源需求。在GR00T N1部分,除了全球首款開源、可完全自訂的機器人基礎模型之外,也採用分別負責快速思考反射動作、緩慢思考做出有條理決策的雙系統架構。

筆者將針對這2個部分撰文詳述,請有興趣的讀者查閱文章頂部之列文章目錄。

Halos是至整合車輛架構、AI模型、晶片、軟體、工具、服務等多個面向的自動駕駛安全系統堆疊。

在自駕車的模型訓練方面,透過Cosmos的生成式世界基礎模型產生的資料進行訓練,再搭配蒸餾技術節省行駛時的運算需求。

黃仁勳分析機器人產業需要環境模擬、模型訓練、部署執行等多種開發階段,將衍生上兆美金的工業產值。

延續上述3個階段,NVIDIA提供Omniverse與Cosmos進行模擬、GR00T N1基礎模型、Jetson Thor邊緣運算電腦等軟、硬體組合,滿足機器人開發與應用所需。

GR00T N1採用創新的雙系統架構,「系統1」是快速思考的動作模型,反映人類的反射或直覺,「系統2」是緩慢思考的模型,用於深思熟慮做出有條理的決策。

NVIDIA發表與Disney、Google共同研發、應用於機器人模擬的開源物理引擎。

黃仁勳也在演說最後介面基於上述技術打造的BLUE機器人,模樣相當可愛並可回應人類的語音。

GTC 2025春季場於2025年3月17日至21日在美國加州聖荷西舉行,筆者撰文時活動已經結束,錯過活動的讀者仍可於YouTube觀看開幕演說重播

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

使用 Facebook 留言
林老師
1.  林老師 (發表於 2025年3月24日 16:03)

文章提到 NVIDIA GTC 主題演講聚焦 AI 技術發展,但未深入探討其對遊戲與消費級市場的影響。目前,AI 繪圖與物理模擬技術已逐步應用在遊戲產業,提升真實感與效能,這就像選擇線上妞妞平台時,不只要看娛樂性,還要關注公平性與運算機制,才能確保最佳體驗。建議作者補充 AI 在遊戲產業的具體應用,讓讀者更全面了解其潛在變革。

林老師
2.  林老師 (發表於 2025年3月24日 16:06)

文章提到 NVIDIA GTC 釋出多項 AI 相關技術,但未深入探討這些技術如何影響雲端遊戲與圖形處理。例如,AI 強化的影像升頻與即時光線追蹤,將改變遊戲體驗,這就像IGT老虎機運用演算法優化中獎機率與畫面效果,提升玩家體驗。建議作者補充 AI 在遊戲圖像處理與運算優化的實際應用,讓讀者更全面了解其對產業的影響。

發表回應
謹慎發言,尊重彼此。按此展開留言規則