AMD史上最大晶片嗨翻全場!1460億個電晶體能大幅縮短ChatGPT訓練時間

AMD史上最大晶片嗨翻全場!1460億個電晶體能大幅縮短ChatGPT訓練時間

ADVERTISEMENT

一顆晶片塞進1460億個電晶體,還號稱能將ChatGPT、DALL‧E等大模型的訓練時間,從幾個月縮短到幾周,節省百萬美元電費。 就在CES 2023上,蘇媽帶著AMD「迄今為止最大晶片」來嗨翻全場了。

這顆代號為Instinct MI300的晶片,也是AMD首款資料中心/HPC級的APU。 

參數性能 

1460億個電晶體是個什麼概念? 

之前,Intel的伺服器GPU Ponte Vecchio擁有的電晶體數量是1000億+,而Nvidia新核彈H100,則整合了800億個電晶體。 

不過,熟悉AMD的人都知道,APU簡單來說就是CPU和GPU封裝在了一起。從這個角度上來說,遠超競爭對手的電晶體數量似乎也是情理之中。 

具體來說,這顆擁有1460億個電晶體的晶片,採用的是小晶片(Chiplet)設計方案。 基於3D堆疊技術,在4塊6nm工藝小晶片之上,堆疊了9塊5nm的運算晶片(CPU+GPU)。 

根據AMD公開的資訊,CPU方面採用的是Zen 4架構,包含24核心。GPU則採用了AMD的CDNA 3架構。由於Zen 4架構通常是8核設計,外界普遍猜測,9塊運算晶片中有3塊是CPU,6塊是GPU。另外,MI300擁有8顆共128GB HBM3 VRAM。 

AMD史上最大晶片嗨翻全場!1460億個電晶體能大幅縮短ChatGPT訓練時間

性能方面,AMD並未公布太多資訊,僅與Instinct MI250X進行了比較。 

蘇媽表示,相比於MI250X,MI300每瓦AI性能提升了5倍,AI訓練性能整體提高了8倍。 

AMD史上最大晶片嗨翻全場!1460億個電晶體能大幅縮短ChatGPT訓練時間

而據Tom‘s Hardwre消息,AMD還透露,MI300能將ChatGPT、DALL‧E等大模型的訓練時間,從幾個月縮短到幾周。 

Instinct MI300預計將在2023年下半年交付。屆時,這顆晶片還將被部署到兩台新的百億億次等級(ExaFLOP)超級電腦上。 

One More Thing

同樣是在今年的CES上,AMD還直接以蘋果M系列晶片為比較基準,推出了「世界最快的超薄處理器」——Ryzen 7040系列。

具體型號包括:Ryzen 5 7640HS、Ryzen 7 7840HS、Ryzen 9 7940HS。

 

AMD史上最大晶片嗨翻全場!1460億個電晶體能大幅縮短ChatGPT訓練時間

對於其中最高階的R9 7940HS,蘇媽大讚道: 

R9 7940HS在多執行緒性能方面,比蘋果M1 Pro快34%;在AI任務處理上,比蘋果M2快20%。

AMD史上最大晶片嗨翻全場!1460億個電晶體能大幅縮短ChatGPT訓練時間

還給出了更直觀的體驗數據:搭載Ryzen 7040系列晶片的超薄筆記型電腦,能連續播放30+小時影片。 

首批搭載Ryzen 7040處理器的筆記型電腦,將在今年3月份出貨。

資料來源:

Qbitai
作者

量子位(Qbitai)專注於人工智慧及前沿科技領域,提供技術研發趨勢、科技企業動態、新創公司報道等最新資訊,以及機器學習入門資源、電腦科學最新研究論文、開源程式碼和工具的相關報導。

使用 Facebook 留言
Ben Huang
1.  Ben Huang (發表於 2023年1月11日 03:47)

╮(╯_╰)╭VGA 條目泛指
1. VGA基礎顯示卡,後來被SuperVGA顯卡取代
2. VESA spec 定義的解析度規範,640x480被命名為 VGA,後來1024x768 則命名為Super VGA
3. 傳統顯示接頭名稱為VGA接頭或D-sub

大約1996年前的顯示卡,都是沒有浮點運,甚至沒有獨立GPU單元,反正只要能處理IO匯流排送過來的詢問,把顯示資料轉成NTSC/PAL掃描線給單槍顯示器就好。

之後這個情況在毀滅戰士遊戲後改觀,3dfx 公司的巫毒卡加入了浮點運算後大紅大紫,所謂巫毒卡是一種GPU加速卡,他只處理浮點指令集,後來便稱浮點處理器為GPU,GPU處理後的資料還是要返回給VGA (SuperVGA) 顯卡,到這個時代大家安裝的都是SVGA卡。

之後ATI和NVIDIA 紛紛整合顯示VGA+GPU 變成APG介面的 Graphics Card, 而3dfx公司還是堅持他的PCI介面的GPU加速卡...歷史告訴我們3dfx公司就被淘汰了,只剩下專業圖型部門還活著...

Graphics Card 這種產品,就一路從AGP 進化到現在的PCIE介面
VGA泛指的VESA規範,一起包入die後就沒有人會特別提起了,雖然他的功能還是一直保留在現在的線卡function/VBIOS中
發表回應
謹慎發言,尊重彼此。按此展開留言規則