ADVERTISEMENT
由於AI火爆,NVIDIA的AI顯示卡現在是供不應求,其中高階的A100、H100尤其搶手,廠商都是大量下單,而NVIDIA也在加急下單,最近更是找到了外援,產能大增30%。
NVIDIA的高階GPU採用了台積電的7nm、5nm製程代工,但是產能瓶頸不在先進製程上,而是所用的Cowos先進封裝上,此前也是依賴台積電,但後者的產能提升有限,還有AMD等公司的訂單搶產能。
ADVERTISEMENT
最新消息稱,聯電也開始為NVIDIA提供外援了,7月份起每個月增加3000片晶圓的Cowos中介層產能,然後再有另一家封測大廠Amkor安靠封裝,三方的合作使得A100、H100的整體產能提升了30%。
供應量上來了,A100、H100等顯示卡的供應情況應該會有所緩解,下半年有望解決加價搶購的麻煩。
H100基於GH100 GPU核心,定製版台積電4nm工藝製造,800電晶體,內建18432個CUDA核心、576個張量核心、60MB二級快取,支援6144-bit HBM高頻寬記憶體,支援PCIe 5.0。
ADVERTISEMENT
性能方面,FP64/FP32 60TFlops(每秒60兆次),FP16 2000TFlops(每秒2000兆次),TF32 1000TFlops(每秒1000兆次),都三倍於A100,FP8 4000TFlops(每秒4000兆次),六倍於A100。
- 延伸閱讀:Nvidia H100 11分鐘內訓練一遍GPT-3,8秒訓練完BERT稱霸8項測試
- 延伸閱讀:玩家將 NVIDIA最強AI GPU H100 拿來「不務正業」,測試來跑遊戲分數會逆天嗎?
- 延伸閱讀:NVIDIA公布H100 GPU MLPerf效能成績,最高較前代A100提升6.7倍
ADVERTISEMENT
ADVERTISEMENT