Computex 2024：Arm CEO預告，2025 年將有超過千億台 Arm 裝置陪你迎向AI之路

在 2024 年台北 Computex 開展前夕，Arm CEO Rene Haas 分享了該公司如何在 2025 年前，實現從雲端到邊緣1000 億台 AI就緒的 Arm 裝置。

我們有足夠的能源供應 AI 嗎？

Haas 解答了其中一個關鍵問題：世界是否有足夠的能源來支援，以因應 AI 持續增加的運算需求。雖然我們在 AI 領域看到驚人的創新，但這個產業正處於一個有趣的兩難處境：處理 AI 效能需求的處理器越好，能源需求就越大。由於 Arm 的 DNA 源自設計電池供電的裝置，Haas 認為這也是為什麼我們看到越來越多領先的雲端服務提供商如 AWS、Google 和 Microsoft 等採用 Arm技術。Arm 是世界上最節能的 CPU，Haas 認為它帶來的節能已經在推動令人難以置信的 AI 創新。

關鍵在於軟體

在公司 30 多年的歷史中，Arm 以領先的節能效率而聞名，這也是其成為世界上最普及的運算平台的基礎。然而，Haas 表示，真正使 Arm 與眾不同的是其無與倫比的軟體生態系。Haas 指出，Arm 已經成為全球每個主要作業系統的既定標準。Microsoft 最近宣佈的 AI PC 就是其中一個很好的例子，所有最常用的應用程式，現在都在 Windows on Arm 上原生運行。事實上，擁有 1800 萬軟體開發人員的生態系，使得今天有更多的開發人員在 Arm CPU 上設計，而不是任何其他處理器。

如果我們希望能從邊緣的最小裝置到雲端的訓練和推論，體驗 AI 帶來的社會變革，這種對開發人員的支持是極其重要的。開發人員需要能夠將他們在 AI 上的創新應用於硬體，並在效能優化、功耗最佳化、高度可執行和可預測的狀態下運行。

為確保以上所述能在 Arm 運算平台上實現，Haas 介紹了 Arm KleidiAI，這是一套新的 AI 運算函式庫，使開發人員更容易在 Arm 上運行他們的 AI 應用程式。Haas 表示：「在 Arm 超過 30 年的歷史中，如果我們有學到什麼，那就是無論硬體多出色，如果沒有開發人員能夠存取的資源，那硬體也沒有多大用處。」

例如，當開發人員在 TensorFlow、PyTorch、Llama 3 和 MediaPipe 等框架中工作時，KleidiAI 使他們能夠進入抽象層，利用底層硬體特性來實現 AI 工作負載的所有效能的潛力。

為了從生態系的角度說明 KleidiAI 的優勢，Haas 分享了來自 Samsung Mobile、Meta 和 Google 等高階主管的影片，介紹 Arm 和 KleidiAI 將如何幫助他們在多元的市場上加速 AI 創新。

Arm 終端產品運算子系統

除了 Arm 在支持 AI 開發人員生態系方面所做的努力相當出色之外，我們還需要繼續提供效能更高和功耗更低的產品。為了分享更多關於這部分的內容，Arm 的資深副總裁暨終端產品事業部總經理 Chris Bergey ，也在會中介紹了最近發表的 Arm 終端產品運算子系統（CSS）。

這是 Arm 第一次在先進的 3 奈米製程節點中，導入其 CPU 和 GPU 的實體實作。 Bergey 表示，這一點非常重要，因為 Arm 生態系現在可以在這些先進的 3 奈米製程節點中，採用經過驗證的核心實體實作，能以更充分的信心更快地上市。

CSS 使晶片製造商更能專注於他們在平台上的差異化，以及 Armv9 架構能為其次世代產品帶來的優勢。結合 KIeidiAI，開發人員擁有得以充分運用這些次世代硬體技術所需的工具。

Haas 在演說結束時進一步強調了 Arm 對 AI 的承諾：提供地球上最完整的運算平台。透過例如 Arm CSS 和 KleidiAI 這樣的創新，他預計到 2025 年底，將有超過 1000 億台 Arm 裝置可以運行AI。這是個驚人的裝置數量。Haas 表示，這不僅將重塑產業，也將重塑整個地球。