ADVERTISEMENT
高通也要進軍AI PC，10 月 25 日凌晨，2023 高通Snapdragon峰會的開場演講中，高通公司總裁兼首席執行長克利斯蒂亞諾·安蒙 Cristiano Amon，隆重介紹了Snapdragon X Elite Oryon CPU。在 PPT 簡報中，新款 CPU 不僅壓過了Apple公司的 M2 Max、Intel i9-13980HX 兩款目前世上最強處理器，而且峰值能耗比前兩者更低。
同時，除了為 X Elite 打響在 PC 端的名號，高通當天還讓Snapdragon 8 Gen 3 處理器出場亮相。作為最新的行動晶片，Snapdragon 8 Gen 3 不僅在性能上有所提升，而且在生成式 AI 處理上也有最佳化，甚至能直接跑得動百億參數的模型。
場內場外，微軟、Meta、谷歌、惠普、聯想、小米等消費電子巨頭 CEO 和總裁紛紛為高通站臺。其中，小米集團總裁盧偉冰不僅在現場展示了即將發表的小米 14 旗艦機，而且正式預告小米汽車將在 2024 年推出。
全新的 PC 系列晶片產品、Snapdragon 8 Gen 3 晶片，讓高通強調的「終端 AI」成為觸手可及的現實。
Snapdragon X Elite，對決Apple、Intel
當天全場的焦點，非Snapdragon X Elite 莫屬。
為了支援未來的高負載智慧任務，高通推出公司迄今為止面向 PC 打造的最強運算處理器：Snapdragon X Elite，其中 Oryon CPU 直接對陣Intel和Apple。
專為 AI 打造的Snapdragon X Elite，整合了全新定製的高通 Oryon CPU，支援在終端側運行超過 130 億參數的生成式 AI 模型，處理速度是競品的 4.5 倍，面向 70 億參數大模型時每秒可生成 30 個 token。據高通稱，這款行動運算 CPU 的性能是競品的兩倍，在達到相同峰值性能時，功耗僅為競品的三分之一。
「趕緊拍照。」高通 CEO 安蒙在峰會上稱，Oryon CPU 的單執行緒性能超過了Apple的 M2 Max 和Intel的 i9-13980HX，峰值性能功耗比 M2 Max 少 30%，比 i9-13980HX 少 70%。
在多執行緒性能方面，高通還對比了Intel的 i7-1355U 和 i7-1360P，稱Snapdragon X Elite 的性能可達其兩倍，峰值性能功耗可少 68%；還有Intel的 i7-13800H，稱性能超過它 60%，峰值性能功耗可少 65%。此外，高通還重點對比了Apple的 M2，強調Snapdragon X Elite 的性能超過它 50%。
高通技術公司高級副總裁兼運算與遊戲業務總經理 Kedar Kondap 稱：「Snapdragon X Elite 象徵著運算技術創新的巨大飛躍，全新定製的高通 Oryon CPU 性能強悍，將為消費者帶來驚人的能效，並將創造力和生產力提升至全新水準。強大的終端側 AI 將支援無縫的多工處理和全新的直觀使用者體驗，賦能消費者和企業的創作和發展。」
據悉，OEM 廠商預計將於 2024 年中推出搭載Snapdragon X Elite 的 PC。
Snapdragon 8 Gen3，1 秒產生 Stable Diffusion 圖片
峰會上，高通還發表了首個專為生成式 AI 而精心打造的行動平臺：Snapdragon 8 Gen 3。
相比上一代，第三代Snapdragon 8 的 CPU 性能提升了 30%，GPU 性能提升了 25%，NPU 性能則提升了 25%，支援運行 100 億參數的生成式 AI 模型。據稱在智慧型手機設備上運行 Stable Diffusion，只需不到 1 秒就可以用文本生成圖像。
高通技術公司高級副總裁兼手機業務總經理 Chris Patrick 稱，「該平臺將開啟生成式 AI 的新時代——賦能使用者創作獨特內容、説明生產力提升，並實現其他突破性的應用範例。」
根據現場展示，Snapdragon 8 Gen 3 將支援一些便捷和創意的 AI 相機工具，包括從影片中移除物體、拓展照片區域以及產生虛擬背景等功能。
身為 Android 旗艦智慧型手機 SoC 領導者，據悉，第三代Snapdragon 8 將在全球 OEM 廠商和智慧型手機品牌的終端上得到廣泛採用。小米集團總裁盧偉冰也現身夏威夷峰會現場，展示了即將發表並搭載第三代Snapdragon 8 的小米 14 手機，以及小米「長期 AI 策略成長」。另據其稱，小米 14 系列將全球首發第三代Snapdragon 8 行動平臺。
除了小米，根據各廠商高層管理人員的說法，蔚來與高通基於Snapdragon平臺在車和手機上深度合作，許多搭載這款旗艦晶片的手機很快將面世。
據高通表示，搭載第三代Snapdragon 8 的 Android 旗艦終端預計將於未來幾周內上市。
「終端 AI」的時代
推動生成式 AI 落地各種品類的終端，包括廣泛的消費電子產品，成了高通今年的最大目標。
「我們正在進入 AI 時代，終端側生成式 AI 對於打造強大、快速、個性化、高效、安全和高度最佳化的體驗至關重要。」高通公司 CEO 安蒙說道。
Snapdragon峰會上發表的Snapdragon X Elite、第三代Snapdragon 8，據稱能以極致速度處理生成式 AI 任務，例如，面向 Windows 11 PC 的終端側聊天助手可實現每秒處理 30 個 token，僅需不到一秒就能使用 Stable Diffusion 在智慧型手機上繪製圖像。
從文本到圖像、圖像到影片和文本到 3D，多模態 AI 的出現正在改變人類與設備互動的方式，根據高通產品管理高級副總裁 Ziad Asghar 的說法：「在終端設備上完全運行，這意味著你可以在飛機上飛行，仍然可以使用生成式 AI。」而且，「這絕對只是這一革命的開始。」
Asghar 稱，「雲端中的生成式 AI 面臨許多難題，這些難題可以透過設備上的處理來解決。」例如，一些公司正在將專有程式碼整合到 GPT 工具中，用於檢測程式碼錯誤。未來，個人電腦或能利用設備知道的資訊，如使用者狀態、偏好、日曆和年齡，結合生成式 AI 查詢，以獲得更好的生成式 AI 體驗，而「這種體驗遠遠優於雲端」。
而且，相比現在人們給各種聊天機器人交出個人資訊的互動玩法，設備上運行的 AI 最大賣點還在於：隱私性，不必將私密上下文資訊傳遞到雲端進行處理。此外，還有即時性的好處，就是不必等待雲端回傳資訊。
但在終端運行 AI 還有一個關鍵問題，模型推斷需要大量運算怎麼辦？
據高通高管稱，在雲端訓練大型語言模型時，通常使用 16 位元或 32 位元浮點數，導致每次模型推斷都需要大量運算。相反，他們一直專注於壓縮模型，進行量化和修剪，例如僅使用 4 位元，節省功耗，並能在設備上執行更多並發 AI 處理，其稱「過去幾個月大型語言模型的增長已經驗證了，透過將模型量子化來使模型變得更小的策略。」
此外，隨著時間的推移，人們不斷改進演算法，模型開始變得更小。人們將採取的另一種方法是「領域特定模型」，即為特定應用程式訓練模型，「模型可以變得非常小，並具有非常高的準確性。」
安蒙稱：「基於高通多年的 AI 研發，包括在終端中性能卓越的 CPU、NPU 和 GPU 組合，以及我們對眾多領先模型本地運行的支援，我們能夠將生成式 AI 的優勢帶給全球使用者，帶給不同的終端品類。」
同時，為了讓使用 Android、Windows 和其他作業系統的Snapdragon終端發現彼此，實現多終端無縫協作，高通在Snapdragon峰會上推出了跨平臺技術 Snapdragon Seamless。
根據德勤網聯消費者調查，每個美國家庭目前平均擁有 21 台數位化終端，但不同終端之間，尤其是不同製造商的終端之間資訊傳輸通常並不順暢。這將限制消費者的選擇餘地並導致鎖定效應，即消費者為了實現其終端間的協同工作而不得不只從同一製造商處購買產品。
透過 Snapdragon Seamless，多個終端可以像只有「一個整體」那樣運作，例如：滑鼠和鍵盤可在 PC、手機和平板電腦上無縫使用；文件和視窗可在不同類型的終端間拖放；耳塞可根據音源的優先順序進行智慧型切換；XR 可為智慧型手機提供擴充功能。
據悉，Snapdragon Seamless 未來將擴展至 XR、汽車和物聯網平臺。包括微軟、Android、小米、華碩在內的公司正與高通合作，採用 Snapdragon Seamless，該技術最早將於今年在全球範圍發表的終端平臺上落地。
從智慧型手機、擴增實境設備、汽車到個人電腦，透過晶片，生成式 AI 對各種終端設備的滲透已經開始。而高通則是將「終端 AI」推向所有消費者的最重要的第一步，也是最重要一步的公司。
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！