AI 算力戰略轉向：DeepSeek 掀起效率革命，推論應用成燒錢新戰場

模型訓練成本驟降，AI 產業競逐推論效能

近年來，人工智慧 (AI) 領域的發展日新月異，大型語言模型 (LLM) 的崛起，帶動了 AI 技術的蓬勃發展。然而，隨著技術演進，AI 產業的發展重心，正悄然從傳統的 LLM 訓練，轉向更注重實際應用場景的推論模型。儘管模型訓練成本可望因技術突破而降低，但推論模型應用所需的大量算力，卻可能成為 AI 產業發展的新挑戰。

根據最新報導指出，AI 投資熱潮持續延燒，然而投資人關注的焦點，已逐漸從基礎模型開發，轉向更具商業潛力的推論模型應用。推論模型相較於傳統 LLM，在執行使用者 запросов 時，需要消耗數倍甚至百倍的算力資源，但也具備更強大的問題解決能力與更廣泛的應用前景。

DeepSeek R1 橫空出世，訓練成本大幅降低

中國 AI 新創公司 DeepSeek 近期發布的 R1 模型，震撼了全球 AI 業界。DeepSeek R1 不僅在多項效能評測中展現領先實力，更重要的是，其背後所代表的技術突破，有望大幅降低 AI 模型的訓練成本。DeepSeek 透過研究論文證實，其 AI 模型在訓練與部署效率上，已超越美國 AI 實驗室先前公開的技術水準。

DeepSeek R1 的出現，一度讓市場認為 AI 算力需求將大幅下降，數據中心與高階晶片的需求也可能隨之縮減。然而，事實可能並非如此。DeepSeek 的技術突破，雖然降低了模型訓練的門檻，卻也加速了 AI 產業朝向資源更密集的推論模型發展。

推論模型應用爆發，算力需求不減反增

隨著企業用戶逐漸認識到推論模型在提升生產力、降低成本方面的巨大潛力，預期未來將有越來越多的企業，將 AI 推論模型應用於各種商業場景。Baseten 公司執行長圖欣·斯里瓦斯塔瓦 (Tuhin Srivastava) 表示，其客戶對於 AI 算力的需求正快速成長，即使在算力效率提升 60% 的情況下，短短三個月內，算力消耗量仍迅速超越原本水準。

鑑於推論模型具備更強大的能力，它們可能很快成為人們使用人工智慧執行多種任務時的預設方式。OpenAI 執行長山姆·奧特曼（Sam Altman）曾表示，該公司人工智慧模型的下一次重大升級，將包含高階推論能力。

那麼，為何推論模型及其相關產品（如「深度研究」工具和 AI 代理）需要如此多的算力資源？答案在於它們的運作原理。

NVIDIA 人工智慧產品管理副總裁卡里·布里斯基（Kari Briski）在近期一篇部落格文章中解釋稱，人工智慧推論模型消耗的算力資源，通常是傳統大型語言模型的 100 倍以上，這是因為推論模型在「思維鏈」中，需要長時間與自己對話，而這些推論過程使用者往往看不見。模型消耗的算力資源，與其產生的詞彙量成正比，因此，如果推論模型產生的詞彙量是常規模型的 100 倍，那麼它也將消耗相對應的電力和算力資源。

當推論模型連接到網路時，如同 Google、OpenAI 和 Perplexity 的「深度研究」模型所做的那樣，資源消耗將會更多。而這些模型對算力資源的需求，目前還只是開端。

科技巨擘重金投入，搶佔 AI 推論市場

為了滿足未來推論模型應用爆發式成長的算力需求，科技巨擘紛紛加大在 AI 基礎建設方面的投資。Google、微軟、Meta 等公司計畫在 2025 年投入至少 2150 億美元 (約新台幣 7 兆 870 億元) 於資本支出，其中大部分將用於擴建 AI 數據中心。這也顯示，AI 產業的發展重心，已逐漸從模型訓練轉向模型應用，推論效能將成為未來 AI 競爭的關鍵。

創投機構 Theory Ventures 創辦人托馬斯·通古茲 (Tomasz Tunguz) 預測，未來幾年，AI 專用晶片與架構創新，可望進一步提升 AI 系統的運算效率，甚至達到千倍以上的效能提升。投資人與科技大廠押注的是，在推論模型普及與廣泛應用下，未來十年內，AI 市場規模可能擴大千倍以上，AI 技術將深入滲透到使用者日常生活的每一個環節。

通古茲表示：「你每一次鍵盤敲擊，或對著麥克風說的每一個音節，每個操作節點都將由至少一個 AI 系統即時處理。」他補充道，如果真是如此，人工智慧市場的規模可能很快就會比現在擴大 1000 倍。

Fractional AI 執行長克里斯·泰勒 (Chris Taylor) 認為，AI 尖端實驗室需要持續投入鉅額資金，才能推動 AI 前沿技術不斷發展。AI 基礎設施供應商 Baseten 等公司，以及蓬勃發展的 AI 生態系統，都高度仰賴這些尖端模型，為客戶提供更優質的 AI 服務。

整體而言，DeepSeek R1 的出現，雖然為 AI 模型訓練成本帶來了革命性的突破，但也預示著 AI 產業的競爭焦點，將轉向推論模型的效能與應用。隨著推論模型應用場景不斷擴展，AI 算力需求將持續攀升，一場以推論效能為核心的 AI 新戰場，已然正式展開。