Arm 推出新一代 Ethos-U NPU 及全新物聯網參考設計平台，加速推進邊緣 AI 發展進程

Arm 控股有限公司（以下簡稱「Arm」）今日宣佈推出 Arm Ethos-U85 NPU，是其迄今效能最高且效率最佳的 Ethos NPU 產品，以及全新物聯網參考設計平台— Arm Corstone-320，以加速實現語音、音訊和視覺系統的部署。

Arm 資深副總裁暨物聯網事業部總經理 Paul Williamson 表示：「隨著邊緣人工智慧的部署規模持續擴大，IC 設計業者必須應對日趨複雜的系統和軟體、不斷激增的 AI 效能需求，以及加速產品上市進程的壓力。

同時，軟體開發人員需要更加一致、簡化的開發體驗，並能更輕鬆地與新型的 AI 框架以及函式庫整合。此次 Arm 推出的新技術滿足了加速邊緣 AI 部署不斷成長的要求。從新創企業到全球最大的微控制器廠商，每家企業都將 Arm 技術視為首選平台，以建構其從雲端到邊緣的 AI 解決方案。」

▲ Arm 推出新一代 Ethos-U NPU 及全新物聯網參考設計平台，（左起）Arm 應用工程總監徐達勇、Arm 台灣總裁曾志光及 Arm 物聯網事業部亞太區 IoT 市場資深經理黃晏祥

Arm Ethos-U85 NPU：Arm 全新第三代因應邊緣 AI 的 NPU 產品

與上一代產品相比，Ethos-U85 效能提升四倍，功耗效率提高 20%，同時，其 MAC 單元可從 128 個擴展到 2,048 個（1GHz 時脈實現 4 TOPs），能夠為例如工廠自動化和商用監視器或智慧家庭攝影機等需要更高效能的應用提供有力的支援。

▲ Arm 台灣總裁曾志光指出邊緣人工智慧的未來正建構於 Arm 之上

Ethos-U85 提供了相同的一致工具鏈，因此合作夥伴能夠利用現有的軟體投資，讓軟體工程師以及開發人員能夠快速上手。更重要的是，全新 Ethos-U85 NPU 也支援 TensorFlow Lite 和 PyTorch 等 AI 框架。

Ethos-U85 支援 Transformer 架構和卷積神經網路（Convolutional Neural Networks, CNNs）以進行 AI 推理。Transformer 架構將推動新的應用，特別是在視覺和生成式 AI的使用場景中，對於理解影片、填補圖像的缺失部分或分析來自多個攝影鏡頭的資料以進行圖像分類和目標檢測等任務非常有效。

▲ Arm 物聯網事業部亞太區 IoT 市場資深經理黃晏祥介紹 Arm Ethos-U85 較上一代效能提升 4 倍、能源效率提高 20%

隨著微處理器被部署到例如工業機器視覺、穿戴式裝置和消費性機器人等更多高效能的物聯網系統中，Ethos-U85 專為與 Arm 先進的 Armv9 Cortex-A CPU 相結合而設計，以加速處理機器學習（ML）任務，並為更廣泛的、更高效能的裝置，提供高效率的邊緣推理能力。

▲ Arm Ethos-U85

至今，Arm Ethos NPU 系列產品已有超過 20 家授權合作夥伴，其中，Alif Semiconductor 和英飛凌是全新 Arm Ethos-U85 NPU 的早期採用者。

Alif Semiconductor 聯合創辦人暨總裁 Reza Kazerounian 表示：「新一代邊緣 AI 應用的 ML 工作負載需要以節能的方式提供高效能表現。

Alif 是業界第一家推出基於 Arm Cortex-M55 和 Ethos-U55 的邊緣 AI 解決方案的企業，我們非常高興並期待 Arm 再次推出全新的 AI 技術，Ethos-U85 NPU，它將為我們新一代 Ensemble 系列微控制器和融合處理器帶來所需的運算效能，協助實現未來邊緣 AI 和視覺應用場景。」

英飛凌工業 MCU、物聯網、無線和運算業務資深副總裁 Steve Tateosian 表示：「邊緣 AI 應用場景日趨複雜，想要把握 AI 時代的機遇離不開安全、高效能的運算系統。我們期待在與 Arm 長期的合作夥伴關係基礎上，透過 Arm Ethos-U85 及其對邊緣 AI 部署所提供的 Transformer 架構支援，進而讓這些複雜的系統成為可能。」

Corstone-320：全新物聯網參考設計平台加速語音、音訊和視覺系統的部署

Arm Corstone-320 物聯網參考設計平台整合了 Arm 最高效能的 Cortex-M CPU—Cortex-M85、Mali-C55 ISP 和全新的 Ethos-U85 NPU，為語音、音訊和視覺等普遍的邊緣 AI 應用提供所需的效能，例如即時圖像分類和目標識別，或在智慧音箱上啟用具有自然語言翻譯功能的語音助理。

▲ Arm Corstone-320