RTX 5090 跑 DeepSeek 性能測試，速度超過 7900 XTX 一倍

近日，NVIDIA 宣布其 NIM（NVIDIA 推理微服務）技術現已支援 DeepSeek-R1。NIM 是一種雲原生微服務技術，旨在簡化生成式 AI 模型在雲端、資料中心及 GPU 加速工作站上的部署流程。

NVIDIA 官網發布的文章指出，DeepSeek-R1 是目前最先進的推理開放模型。該模型通過對查詢進行多次推理處理，採用連鎖思維、共識和搜尋方法來生成最佳答案。為了幫助開發者安全地試驗這些功能，並構建自己的專門代理，DeepSeek-R1 模型現已作為 NVIDIA NIM 微服務預覽版上線使用。

在性能測試方面，根據外媒的測試，RTX 5090 在 DeepSeek R 上的推理性能顯著優於 AMD 的 RX 7900 XTX，性能至少翻了一倍。測試結果顯示，在多個 DeepSeek R1 型號中，RTX 5090 不僅明顯領先於 RX 7900 XTX，也比 RTX 4090 快了不少。

在Distill Qwen 7b和Distill Llama 8b模型中，該RTX 5090每秒可執行200個Tokens，幾乎是RX 7900 XTX 的兩倍。