NPU vs. CPU/GPU：誰才是AI運算的最佳選擇？神經網路處理器真的值得買單嗎？

如果你到現在還沒聽說過神經網路處理單元（NPU），那你一定是錯過了過去一年Intel、AMD 和高通鋪天蓋地的 AI 行銷。

在過去的 12 個月中，這些以 AI 為中心的處理器被吹捧為下一個必不可少的升級——人人都需要它才能充分利用人工智慧。但這真的只是行銷炒作，還是 NPU 真的能像它們承諾的那樣帶來變革性的價值？

什麼是 NPU？

NPU 是晶片系統（SoC）中的專用處理器，旨在處理 AI 特定的任務，例如背景雜訊抑制、即時視訊增強和基本的生成式 AI 功能。包括Intel的 Meteor Lake 中的 VPU、AMD 的 Ryzen AI 以及高通的 Hexagon AI 處理器在內的公司都已將 NPU 嵌入到他們的晶片中，聲稱它們將使設備更智慧、更高效來徹底改變運算體驗。其理念是將 AI 工作負載從 CPU 和 GPU 中卸載出來，以節省功耗，從而理論上改善電池續航力並提供更快的晶片 AI 處理。

但是，這些支援 AI 的處理器是真的具有顛覆性，還是佔用了寶貴的晶片空間，而這些空間可以用於滿足使用者的真正需求？

NPU 優勢背後的真相

雖然 NPU 確實提高了效率，尤其是在電池續航力至關重要的行動裝置中，但它們對電池續航力已經很強大的筆記型電腦的影響卻難以證明。NPU 處理的任務大多是小眾的，對一般使用者體驗的影響有限。如果你經常使用語音命令或非常依賴視訊通話增強功能，那麼 NPU 可能会節省一些電池電力。但對大多數使用者來說，目前它是一個錦上添花的功能，而不是必不可少的功能。CPU 和 GPU 多年來已經可以充分地處理這些功能，雖然 NPU 可能会略微降低功耗，但這項創新更多的是關於漸進式效率提升，而不是提供有意義的新功能。

以Intel的 Meteor Lake VPU 為例。它被宣傳為一種用於設備上 AI 任務的解決方案，例如視訊通話背景模糊和雜訊消除——這些任務以前用 CPU 和 GPU就能有效處理。其主要優勢是功耗效率的微小提升，雖然有用，但在考量整體運算體驗時並不突出。AMD 的 Ryzen AI 採用了類似的方法，在不提供突破性功能的情況下提高了效率。高通的 Hexagon 處理器借鑒了其行動裝置的優勢，為筆記型電腦帶來了類似的功能，但並沒有顯著擴展大多數使用者的應用範圍。

TOPS 的迷思

在討論 NPU 時，供應商經常強調 TOPS 作為性能指標。Intel即將推出的 Lunar Lake 平台擁有 48 TOPS 的 NPU，AMD 的 Ryzen AI 300 系列能够達到 55 TOPS，高通的 Snapdragon X Elite 則配備了 45 TOPS 的 NPU。這些數字好像它們對實際使用者具有重大意義。

然而，TOPS 是在理想實驗室條件下對峰值性能的理論測量。它是根據乘積累加（MAC）單元的數量和工作頻率計算得出的，但它並不一定能轉化為日常使用中的實際性能提升。對於一般使用者來說，這些數字就像他們永遠不會以最高速度駕駛的汽車的理論馬力一樣毫無意義。

取捨：晶片空間利用率

包含 NPU 會消耗寶貴的晶片空間，而這些空間可以用於增強更普遍有益的功能，包括 CPU 核心或 GPU 功能。以 AMD 基於 Zen 5 的 Ryzen AI 300 行動 SoC 為例，NPU 佔用了大約 10-15% 的晶片空間——這是一個相當大的比例。如果將這些空間用於增加更多的 CPU 核心，使用者可以在多執行緒應用程式中體驗到明顯的改進，使開發人員、內容創作者和高階使用者都能受益。

或者，擴展整合 GPU 可以提供更好的圖形性能，遊戲玩家和使用圖形密集型應用程式的專業人士都會喜歡這項功能。鑑於 GPU 傳統上一直是 AI 工作負載的首選硬體，增強 GPU 功能可以一舉兩得。

NPU 真的是未來的保證嗎？

製造商將 NPU 宣傳為在 AI 驅動的世界中面向未來筆記型電腦的必要條件。然而，鑑於 AI 的快速發展，很難預測哪些硬體功能將保持相關性。雖然 NPU 確實為特定的 AI 任務提供了一些優勢，但大多數使用者不太可能注意到它們的缺失。大多數日常運算任務——例如網頁瀏覽、文件編輯和媒體消費——不需要 AI 驅動的最佳化。

即使對於偶爾使用 AI 功能的使用者來說，CPU 和 GPU 通常已經足夠處理這些工作負載，只是功耗略高。NPU 的承諾更多是針對未來的潛在應用，而非當前對普通消費者的明顯好處。

噱頭還是真正的創新？

儘管 AI 確實有許多實用應用，例如語音轉文字和即時翻譯工具，但在筆記型電腦中包含 NPU 顯得為時過早。這項技術似乎是為問題尋找解決方案，更大程度上是由行銷策略推動，而非真實的使用者需求。在 AI 應用成為日常計算中不可或缺的元素之前，NPU 可能仍是一個被過度炒作的功能，而非必須的組件。

同時，消費者或許能從處理性能、圖形能力和整體系統性能的提升中受益更多——這些改進能提供即時且明顯的優勢。目前來看，NPU 是一個有趣的發展，但對於大多數使用者而言，或許還不是其宣稱的那種改變遊戲規則的創新。

PC 製造商熱衷於推廣內含 NPU 的硬體，或許是因為 AI 筆記型電腦能提升平均銷售價格約 5 到 10%。

• 延伸閱讀：NPU是什麼？TOPS如何衡量 NPU 速度？
• 延伸閱讀：人們確實在購買AI PC，但並不是真的看上了它們的AI能力
• 延伸閱讀：NPU有什麼用？AMD說明處理器內建Ryzen AI加速單元的好處
• 資料來源：theregister