Arm推出Ethos-U85 NPU與Corstone-320參考設計平台，強化物聯網裝置AI效能

Arm繼先前針對物聯網裝置推出的Ethos-U55、U65等產品之後，這次推出的Ethos-U85 NPU最高能夠提供4 TOPS AI運算效能，帶來更豐富的應用潛力。

可搭配多種處理器的NPU

Arm針對物聯網（IoT）裝置的運算應用推出了Cortex-M系列微控制器，並在Armv8-M指令集加入TrustZeon功能以提高連網裝置的資安防護，並在隨後的Armv8.1-M指令集加入Helium向量擴充方案，能夠有效提高ML（機器學習）與DSP應用的效能表現。

而Ethos-U系列NPU（神經處理器）則是進一步透過特化運算單元，強化ML與AI的運算效能與吞吐量。這次發表的Ethos-U85較前代Ethos-U65效能提升4倍，MAC單元從先前最高256組提升至128~2048組，在1 GHz時脈的運作條例下能夠提供4 TOPS的AI運算效能，並提高20%電力效率，能夠滿足工廠自動化、商用監視器、智慧家庭攝影機等需要更高效能的應用情境。

在新功能部分，Ethos-U85支援卷積神經網路（Convolutional Neural Network， CNN）的權重乘矩陣（Weights Times Matrix）以及矩陣相乘（Matrix Times Matrix Multiplication）等運算，並支援Transformer網路，可提高硬體使用效率，並在運算資源有限的邊緣裝置上部署AI模型，尤其能夠強化電腦視覺和生成式AI的使用情境，對理解影片、填補圖像缺失部分或分析多個攝影機以進行圖像分類和物體檢測等工作類型相當有幫助。

Ethos-U85不僅能與Cortex-M系列微控制器協同運作，也能搭配採用Armv9指令集的Cortex-A系列處理器，加速以處理器為基礎的物聯網裝置的機器學習與AI運算效能。

▲ 左起為Arm台灣總裁曾志光、應用工程總監徐達勇、物聯網事業部亞太區IoT市場資深經理黃晏祥。

▲ 黃晏祥在說明會講解Ethos-U85與Corstone-320等新產品特色。

▲ Arm持續推進邊緣AI運算的創新，Helium向量擴充方案與Ethos-U系列NPU都有助於在邊緣裝置導入ML與AI運算。

▲ Ethos-U85 NPU與前代產品最高具4倍效能提升，並提高20%電力效率。

▲ 先前的Ethos-U55與Ethos-U65最多具有256、512組MAC單元，而Ethos-U85則可配置128~2048組，並支援Transformer網路。

▲ Ethos-U85不僅能搭配Cortex-M系列微控制器，也能搭配Cortex-A系列處理器。

▲ 不同AI運算的使用情境對效能需求的落差相當大。黃晏祥說明這次發表的Ethos-U85具有4 TOPS的運算效能，大約可以滿足物件分類（Object Classification）的需求。

工具鏈與參考設計平台簡化開發

Ethos-U85也具有統一的工具鏈（Toolchain，即軟體開發工具），有助於讓軟體工程師以及開發人員快速上手，也讓合作夥伴能夠重複使用現有的軟體，另一方面它也能夠支援TensorFlow Lite和PyTorch等AI運算框架，大幅簡化軟體開發的流程並消除障礙。

Arm物聯網事業部亞太區IoT市場資深經理黃晏祥在說明會中特別強調，Arm與PyTorch具有長期深度合作的緊密關係，因此在PyTorch推出針對行動裝置、邊緣裝置而設計的AI推論運算框架ExecuTorch之初，就能提供更完善的軟硬體整合支援。

Arm也為了協助開發者加速語音、音訊和視覺系統的部署，推出全新Corstone-320物聯網參考設計平台，它整合了Cortex-M系列效能最高的Cortex-M85，以及Mali-C55影像處理器（ISP）和全新的Ethos-U85 NPU，提供語音、音訊和視覺等邊緣AI運算應用所需的效能。

舉例來說，Corstone-320能夠滿足即時圖像分類、目標識別，或在智慧音箱上啟用具有自然語言翻譯功能的語音助手等應用。

Corstone-320參考設計平台同時也涵蓋了軟體、工具和支援，其中最重要的就是包括Arm虛擬硬體，能夠讓軟體開發人員在晶片完成生產之前，就提早進行軟體開發工作，進而加速推進產品進程，提升產品的經濟效益。

▲ Corstone-320參考設計平台整合Cortex-M85、Mali-C55、Ethos-U85等運算元件，適合用於開發包含影像、語音相關功能的邊緣AI運算應用。

▲ Arm的硬體不但具有多樣的運算單元組合彈性，且支援豐富的業界常用API，並且能在Arm虛擬硬體、固定虛擬平台（FVP）、FPGA等試作平台進行開發工作。

▲ Arm提供IP與多間硬體廠商合作，並支援廣汎的AI運算框架與軟體生態系統。

▲ Arm的IP可以提供高度彈性效能配置、快速上市、低功耗、整合ML、程式可移植性、多元供應商等優勢。

▲ Arm Ethos-U系列NPU已與Infineon、NXP、Himax、Nuvoton、Alif、Synaptics等廠商合作並推出對應晶片，其中，Infineon與Alif是全新Ethos-U85的早期採用者。

Arm與超過1,000間廠商建立技術合作關係，促使人工智慧能夠在各種使用情境順利運作，並致力於為從晶片到雲端建立堅實的資安防護。