NPU有什麼用？AMD說明處理器內建Ryzen AI加速單元的好處

目前AMD與Intel等x86架構處理器以及Qualcomm的Arm架構處理器都整合NPU運算單元，到底這種設計有什麼優勢呢？

讓電腦具備AI功能

AMD表示現在正積極為全方位AI運算挹注更高效能，除了先前推出Ryzen 7040 / 8040系列行動版處理器以及Ryzen 8000G系列桌上型處理器皆搭載專屬AI加速器，透過XDNA運算架構的神經運算單元（NPU）搭配Ryzen AI軟體堆疊，提供更強大的AI運算能力，最新推出的Ryzen AI 300系列行動版處理器更是搭載AI運算效能達50 TOPS的XDNA 2架構NPU，透過最佳化AI工作負載、提升AI運算效能等方式強化AI使用者體驗。

延伸閱讀：
AMD Tech Day 2024（二）：Ryzen AI 300系列行動版處理器架構解析，Zen 5、RDNA 3.5、XDNA 2完全體登場
 AMD Tech Day 2024（三）：XDNA 2 AI運算架構解析，Block FP16資料類型運算效率倍增

Ryzen 7040系列行動版處理器是首款於x86架構個人電腦處理器內建NPU的產品，到了Ryzen AI 300系列行動版處理器則為第3代產品，透過效能更高的NPU加速系統執行AI應用程式的效能，並降低處理器（CPU）與繪圖處理器（GPU）的運算資源來處理其他負載。

舉例來說，Ryzen AI可以在進行視訊會議時搭配Microsoft的Windows Studio Effects，提供自動對焦、先進背景模糊和目光校正等AI輔助功能，改善視訊會議體驗。另一方面，Ryzen AI也可以搭配Copilot for Microsoft 365提供如文字摘要、輸入預測、E-Mail回覆等的便利的文書輔助功能。

此外Ryzen AI也能夠加速AI圖像生成速度，或透過AI進行威脅偵測與自我修復，為注重安全性的商業領域降低資安風險。

▲ Ryzen AI透過XDNA運算架構的神經運算單元（NPU）加速AI運算的效能表現。

▲ AMD全球商務產品行銷經理Ronak Shah表示AMD推出的Ryzen 7040系列行動版處理器是全球首款內建AI加速器的x86架構處理器。

▲ Ryzen AI能為視訊會議提供自動對焦、先進背景模糊和目光校正等AI輔助功能。

▲ 近期推出的Ryzen AI 300系列行動版處理器搭載第3代產品NPU。

▲ Ryzen AI 300系列行動版處理器的NPU具有50 TOPS的AI運算效能，遠高於前2代產品，能帶來更豐富的AI使用者體驗。

▲ Ryzen AI的NPU並非是要完全取代CPU、GPU於AI運算的任務，而是擔任協同工作與轉移負載的角色，發揮更強的整體效能與電池續航力。

電力效率才是NPU的強項

或許讀者會有疑問，GPU也能用來加速AI運算的效能，而且效能表現可能還比NPU好，那麼為什麼還需要額外在處理器內部增加NPU呢？

首先加入NPU能夠提系統整體的AI運算效能，與GPU協同運作能在更短的時間內完成工作或執行更複雜的AI功能。第二NPU可以發揮轉移工作負載的效果，在負載較低的情況下獨自完成AI運算，並釋放CPU、GPU資源去執行其他工作，提高整體多工功能，例如在玩遊戲的同時進行實況直播，GPU可以全力進行3D繪圖，並將AI強化直播畫面畫質的負載轉移至NPU。

此外AMD也說明，NPU是針對AI運算高度特化的運算單元，具有更高的電力效率，所以能在比GPU消耗更少電力的情況下完成相同的運算量，進而達到在透過電池驅動筆記型電腦的情境下，也能長時間開啟AI功能的目標。

另一方面，XDNA 2架構也具有空間分割（Spatial）與時域分割（Temporal）等2種不同的多工運作模式，能夠動態調節運算單元的資源分配，並關閉閒置單元進一步節省電力。

舉例來說，可以在視訊會議的過程中讓AI應用程式常駐於背景，並將對話轉錄成逐字稿，並自動整理成摘要，當會議結束的同時就有現成資料可以直接參考、引用，大幅提升工作效率。若使用較耗電的GPU，可能一下子就把電池耗盡，而使用電力效率較高的NPU，則可延長電池續航力。

▲ AMD Ryzen AI平台能讓電腦同時執行聊天機器人、影像強化、物件辨識等多種AI應用程式。

▲ 系統能夠自動調配運算資源，最佳化各AI應用程式的執行狀況，還能關閉閒置單元進一步節省電力。

▲ XDNA 2導入將AI引擎模塊分配給不同AI應用程式的空間分割，以及讓多個AI應用程式共用整體AI引擎模塊的時域分割等2種多工運作模式。圖片右側的範例為空間分割，將AI引擎模塊依8、8、16組數量切割給2個AI應用程式使用。

隨著AMD、Intel、Qualcomm與合作夥伴相繼推出搭載內建NPU處理器的筆記型電腦產品，勢必將推動軟體生態系統的建立，也期待未來將有更多便利的AI功能可以早日普及。