2023.01.07 09:00

AMD史上最大晶片嗨翻全場!1460億個電晶體能大幅縮短ChatGPT訓練時間

ADVERTISEMENT

一顆晶片塞進1460億個電晶體,還號稱能將ChatGPT、DALL‧E等大模型的訓練時間,從幾個月縮短到幾周,節省百萬美元電費。 就在CES 2023上,蘇媽帶著AMD「迄今為止最大晶片」來嗨翻全場了。

這顆代號為Instinct MI300的晶片,也是AMD首款資料中心/HPC級的APU。 

參數性能 

1460億個電晶體是個什麼概念? 

ADVERTISEMENT

之前,Intel的伺服器GPU Ponte Vecchio擁有的電晶體數量是1000億+,而Nvidia新核彈H100,則整合了800億個電晶體。 

不過,熟悉AMD的人都知道,APU簡單來說就是CPU和GPU封裝在了一起。從這個角度上來說,遠超競爭對手的電晶體數量似乎也是情理之中。 

具體來說,這顆擁有1460億個電晶體的晶片,採用的是小晶片(Chiplet)設計方案。 基於3D堆疊技術,在4塊6nm工藝小晶片之上,堆疊了9塊5nm的運算晶片(CPU+GPU)。 

ADVERTISEMENT

根據AMD公開的資訊,CPU方面採用的是Zen 4架構,包含24核心。GPU則採用了AMD的CDNA 3架構。由於Zen 4架構通常是8核設計,外界普遍猜測,9塊運算晶片中有3塊是CPU,6塊是GPU。另外,MI300擁有8顆共128GB HBM3 VRAM。 

性能方面,AMD並未公布太多資訊,僅與Instinct MI250X進行了比較。 

ADVERTISEMENT

蘇媽表示,相比於MI250X,MI300每瓦AI性能提升了5倍,AI訓練性能整體提高了8倍。 

而據Tom‘s Hardwre消息,AMD還透露,MI300能將ChatGPT、DALL‧E等大模型的訓練時間,從幾個月縮短到幾周。 

ADVERTISEMENT

Instinct MI300預計將在2023年下半年交付。屆時,這顆晶片還將被部署到兩台新的百億億次等級(ExaFLOP)超級電腦上。 

One More Thing

同樣是在今年的CES上,AMD還直接以蘋果M系列晶片為比較基準,推出了「世界最快的超薄處理器」——Ryzen 7040系列。

具體型號包括:Ryzen 5 7640HS、Ryzen 7 7840HS、Ryzen 9 7940HS。

 

對於其中最高階的R9 7940HS,蘇媽大讚道: 

R9 7940HS在多執行緒性能方面,比蘋果M1 Pro快34%;在AI任務處理上,比蘋果M2快20%。

還給出了更直觀的體驗數據:搭載Ryzen 7040系列晶片的超薄筆記型電腦,能連續播放30+小時影片。 

首批搭載Ryzen 7040處理器的筆記型電腦,將在今年3月份出貨。

資料來源:

ADVERTISEMENT