NVIDIA於GTC 2020公開多項新品與技術，把GPU塞入網路卡是哪招?

DPU加速雲端主機

NVIDIA在這次拋出了DPU（Data Processing Unit，資料處理器）的概念，在網路卡（Ntwork Interface Controller，NIC）上加入處理器與繪圖處理器（CPU與GPU），並可透過全新的DOCA API，將傳統資料中心的基礎建設管理（Infrastructure Management）、軟體定義資安（Software-defined Security）、軟體定義儲存（Software-defined Storage）、軟體定義網路（Software-defined Networking）等功能，轉移至網路卡完成，降低伺服器處理器的工作負載。

此外NVIDIA也為了預見了在AIoT、5G日益普及的現在，有越來越多攝影機或是各類裝置、感測器會產生龐大的資料，因此需透要借助邊緣運算的力量，在資料產生的地點就近處理，以節省資料傳輸的頻寬並縮短延遲。

除了我們在另一篇文章提到的Jetson Nano 2GB之外，NVIDIA也針對邊緣運算推出了EGX邊緣AI運算平台，更詳細的消息有待日後發表。

▲ DPU可以透過內建於網路卡上的運算元件分擔伺服器處理器的工作負載。

▲ 在DPU加速的伺服器上，處理器可以將更多資源留給虛擬機器、容器，其他功能則交給DPU處理。

▲ NVIDIA Bluefield-2搭載8個Arm Cortex-A72的處理器核心，能協助分擔許多負載。

▲ NVIDIA Bluefield-2X更是加入了與GeFocre RTX 3080同為Ampere架構的繪圖處理器，能夠進行更複雜的AI運算，例如透過行為分析過濾惡意攻擊，或是審查使用者上傳的圖片、影片。

▲ DOCA API能便捷地將許多工作負載轉移至DPU處理。

▲ 從Bluefield系列的未來產品規劃可以看出，到了2023年目標AI運算效能將達400TOPS。

▲ 由於越來越多裝置、感測器會產生更加龐大的資料量，因此在邊緣處理資料就成為首要之重。

▲ NVIDIA也推出EGX邊緣AI運算平台以滿足邊緣運算不同的需求。

Cambridge-1 奪下綠能超級電腦第3名

除了上述幾款規模較大的產品之外，NVIDIA也於GTC 2020宣布之前於GeFocre RTX 3080發表會時宣布的Omniverse進入公開測試，使用者可以從指定遊戲取用素材，搭配Webcam建立角色模型與擷取動態，並以AI方式自動依輸入的語音調整角色說話的嘴型，輕鬆製作電影等級的3D動畫。Maxine則是將Broadcast直播工具轉為雲端服務的型式，可以提供臉部歪斜校正、動畫化、即時翻譯、降噪、去背景、自動追焦等功能。

另外NVIDIA也將AI運算投入許多醫療研究，並與全球第三大製藥廠GSK（葛蘭素史克股份有限公司）合作，推出Cambridge-1 AI超級電腦。它由80台NVIDIA DGX A100組成，能夠提供400Peta Flops的AI運算效能，預計能在超級電腦排行榜奪下Top 500前30名與Green 500第3名。

▲ Omniverse能透過繪圖處理器與AI的協助加速3D影片的製作。