微軟最佳化 AI 模型,讓 Copilot+ PC 本機端可執行 DeepSeek-R1 7B 和 14B 模型

微軟最佳化 AI 模型,讓 Copilot+ PC 本機端可執行 DeepSeek-R1 7B 和 14B 模型

ADVERTISEMENT

Microsoft 積極推動 AI 於本機上運作,近日宣布,將針對 Copilot+ PC 推出「NPU最佳化」的 DeepSeek-R1 AI 模型,並率先支援在高通 Snapdragon X 裝置,隨後擴展至搭載 Intel Core Ultra 200V 與 AMD Ryzen AI 9 處理器的 PC。而首款釋出的模型為 DeepSeek-R1-Distill-Qwen-1.5B,開發者可透過 Microsoft AI Toolkit 獲得,近日則正式推出 7B 與 14B 模型。

Copilot+ PC:NPU 是重要關鍵

在微軟對 Windows 11 Copilot+ PC 的規範條件中,需要至少 256GB 儲存空間、16GB 記憶體,且 NPU 必須具備 40 TOPS(兆次運算)以上的運算能力。這也表示舊款機型,雖具備 NPU,但未達此規範無法在本機運行這些模型。

Microsoft 在官方部落格中表示:「這些最佳化後的模型讓開發者能夠建立並部署 AI 應用程式,充分發揮 Copilot+ PC 內建 NPU 的強大算力。」同時,Microsoft 提及 Phi Silica 技術的應用,能有效提升推理效率,在縮短 AI 回應時間的同時,減少電池消耗及系統資源占用。

微軟最佳化 AI 模型,讓 Copilot+ PC 本機端可執行 DeepSeek-R1 7B 和 14B 模型

下載 AI Toolkit VS Code 工具

根據微軟公布的資料顯示,要在 Copilot+ PC 上運作 DeepSeek,只需下載 AI Toolkit VS Code(AI Toolkit)擴充工具。而透過 ONNX QDQ 格式最佳化的 DeepSeek 模型,就可在 AI Toolkit 的模型目錄中找到,目前已正式推出 7B 與 14B 版本,直接從 Azure AI Foundry 擷取,並點擊「下載」到本機即可。在微軟官方的部落格中,有提供較詳細的安裝說明及影片操作。

微軟最佳化 AI 模型,讓 Copilot+ PC 本機端可執行 DeepSeek-R1 7B 和 14B 模型

DeepSeek-R1爭議

值得注意的是,雖然 Microsoft 很快支持 DeepSeek-R1,但 DeepSeek-R1 也存在市場爭議,美國科技界對其發展感到憂心。OpenAI 聲稱 DeepSeek 涉嫌竊取專有程式碼來開發其 AI 模型,並指出 DeepSeek-R1 的研發成本不到 1,000萬美元,遠低於美國企業投入數十億美元開發的 AI 模型。再加上多國陸續發表禁用 DeepSeek 的限制,能夠在本機上運作 DeepSeek 是否有吸引力,還有待市場考驗。但可預測的是,針對 NPU 最佳化模型的發展,勢必將成為AI競爭的重要焦點。

 

 

 

WL.
作者

PC home雜誌、T客邦產業編輯,主要負責蘋果、手機、筆電、桌機、平板等產業領域,以及相關硬體的教學以及評測、軟體相關教學報導。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則