ADVERTISEMENT
NVIDIA在AI on RTX技術與應用分享會說明了多項在搭載Windows作業系統個人電腦上的AI應用,並進行實際展示。
專注高於100 TOPS高階AI應用
身為AI軟、硬體技術大廠,NVIDIA自然也相當重視包含桌上型與筆記型等個人電腦的AI應用,雖然NVIDIA並不像AMD、Intel等廠商推出處理器搭配內建NPU(神經處理器)或內建GPU(繪圖處理器)的解決方案,但卻能透過效能更高的獨立顯示卡、獨立顯示晶片等GPU提供更豐富的應用。
- 延伸閱讀:
- GTC 2024春季場系列報導
- NVIDIA說明Windows作業系統AI應用(上):強調高階AI功能優勢(本文)
- NVIDIA說明Windows作業系統AI應用(下):多種AI應用功能展示
NVIDIA將個人電腦粗分為AI運算效能介於10~45 TOPS(Int8資料類型)、由NPU與內建GPU驅動的基本AI電腦(Basic AI PC),以及效能介於100~1300 TOPS(Int8、FP8資料類型)、搭載獨立GPU的高階AI電腦(Permium AI PC)。
雖然NVIDIA並沒有點名「基本」與「高階」AI電腦的規格與型號,但我們仍可明確推斷,基本AI電腦指的是搭載AMD Ryzen 7040、8040、8000G等系列處理器,或是Intel Core Ultra 1系列處理器的電腦,而高階AI電腦自然就是搭載NVIDIA自家獨立顯示卡或獨立顯示晶片的桌上型與筆記型電腦。
這2種類型的電腦都具有在本機執行AI應用程式的能力,具有低延遲、不需連網或將資料上傳至雲端、無額外伺服器費用等優勢,而高階AI電腦則進一步能夠執行規模更大的AI模型(有助於提供更精確、理想的回應與結果),並執行更複雜的AI應用程式以提升使用者體驗與工作效率,並可在更短的時間內完成相同的運算負載。
NVIDIA也補充了NPU的優勢,那就是它們雖然效能不如獨立GPU,但具有更高的電力效率,更適合常時間於背景持續運作,尤其對藉由電池運作的筆記型電腦來說更加重要。
至於例如複雜的AI圖像生成、AI模型訓練、執行超大規模AI模型等運算負載更高的需求,則建議使用AI運算效能可達數千TOPS且具有擴充性(Scalable)的雲端GPU完成。
強固AI生態系統
NVIDIA也在會中說明自己具有完整且強固的AI軟、硬體生態系統,能夠支援PyTorch、ONNX、TenosrFlow等常見的AI運算框架,有許多應用程式也支援NVIDIA自家的Tensor RT SDK與執行環境,目前已有超過125款應用程式、功能可以透過RTX系列顯示卡、顯示晶片加速,在照片編輯、影片編輯、直播、3D渲染等應用程式的數量上都位居第1。
此外NVIDIA也透過DLSS將超解析度(Super Resolution,即升頻)、畫格生成(Frame Generation)、光線重建(Ray Reconstruction)等AI功能應用於提升遊戲的畫質以及FPS效能。
AI運算的效能表現方面,NVIDIA也是獨佔鰲頭。根據NVIDIA提供的測試數據,搭載行動版GeForce RTX 4090的筆記型電腦在Stable Diffusion圖像生成的速度比搭載Apple Silicon M3 Max的MacBook Pro快了7倍。而在UL Procyon AI圖像生成測試部分,市場價格約為新台幣21,990元的GeForce RTX 4070 Super,表現就超出價格達新台幣35,990元的AMD Radeon RX 7900 XTX。
至於影片編輯、大型語言模型部分,NVIDIA提供的解決方案也都具有更出色的效能表現,在視訊會議強化功能部分也有更理想的效果。詳細情況請參考下方圖表說明。
NVIDIA也在活動當天提供多樣AI應用與程式展示,筆者將會在下篇文章中繼續介紹。
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!