電子發燒友網報道(文/周凱揚)在不久前結束的 “加速資料中心”釋出會上,AMD正式公開了下一代伺服器CPU Milan-X和GPU加速卡Instinct MI200。這兩大產品系列不僅面向資料中心,也將面向一系列HPC和超算應用,把通用計算和AI效能推向極致。Instinct MI200作為GPU加速卡,更是成為超級計算機百億億級(Exascale)的算力的基本構成單元。
在市場合作上,AMD更是開始了新一輪的攻城略地,前不久剛和騰訊聯合釋出了星星海伺服器產品後,如今Azure等一眾公有云廠商也開始部署基於Milan-X的伺服器,甚至將剛改名為Meta的Facebook也被拉攏至AMD陣營,宣佈將在其資料中心部署AMD的伺服器產品。
Milan-X:6nm的大快取怪獸
繼上一代Milan處理器推出後不到一年,AMD就釋出了該晶片的6nm改進版Milan-X。今年上半年透過融合Chiplet和Die堆疊兩大技術,在Ryzen桌面處理器上做了3D Chiplet架構的演示。如今第三代Epyc處理器Milan-X,將成為首個使用該技術的伺服器產品。透過在Chiplet上堆疊快取,Milan-X的L3快取是Milan的三倍,達到了可怕的768MB。
MilanX / AMD
與英特爾一樣,AMD在正式發售前並沒有公佈Milan-X的具體效能細節,而是透過合作伙伴的測試來展示了Milan-X在EDA和公有云應用中表現。在新思的VCS功能驗證中,Milan-X在1小時內完成了40.6項任務,而同樣核心數的Milan僅完成了24.4項。微軟在基於Milan-X的Azure伺服器中進行了早期測試,無論是在航天模擬,還是在汽車碰撞測試建模中,Milan-X都做到了50%以上的效能提升。
Milan與MilanX在新思VCS上的對比 / AMD
除此之外,AMD CEO蘇資豐博士還透露了下一代5nm Epyc處理器Genoa的情報。基於Zen 4架構的Genoa將具備2倍的電晶體密度和2倍的能效,效能可以達到上一代的1.25倍以上。Genoa最高支援96個Zen 4核心,同時也將加入一系列新標準的支援,比如DDR5、PCIe 5.0和CXL。AMD還將推出基於5nm的Zen 4C核心的處理器Bergamo,專門針對要求多核多執行緒的雲原生計算,最高核心數將達到128核,晚於Genoa釋出。
Genoa計劃在2022年量產和釋出,屆時很可能就是英特爾的Sapphire Rapids和AMD的Genoa在通用計算領域爭雄了。
Instinct MI200:GPU終於迎來MCM時代了?
除了Milan-X之外,釋出會的最大亮點其實是全球首個MCM GPU,Instinct MI200。同樣基於臺積電的6nm工藝,Instinct MI200系列單晶片的電晶體數目達到580億,最高集成了220個計算單元。作為首個採用AMD CDNA2架構的伺服器GPU,Instinct MI200的目標很明確,那就是將計算能力推向ExaScale級。
Instinct MI200 GPU / AMD
在CDN2架構和第二代HPC&AI專用矩陣核心的支援下,Instinct MI200實現了遠超競品的效能表現。資料對比環節,AMD選擇拿Nvidia目前最強的A100加速卡開刀。MI250X的FP64向量計算能力達到47.9TF,FP64矩陣計算能力達到95.7TF,均為A100的4.9倍。而在AI領域常用的FP16和BF16矩陣計算中,MI250X的算力也達到了383TF,是A100的1.2倍。即便兩者都用上了HBM2E,MI200的記憶體頻寬也達到了3.2TB/s,遠超A100的2TB/s。不過MI250X的功耗確實要高出不少,峰值狀態下的功耗可以達到560W,而A100的峰值功耗為300W。
EFB示意圖 / AMD
與英特爾這種IDM廠商不同,AMD在封裝上基本吃透了與臺積電合作帶來的技術紅利,尤其是臺積電的3D Fabric封裝技術集合,而Instinct MI200則是這些技術的集大成之作。作為首個採用多Die設計的GPU,Instinct MI200選用了兩個SoC+8個HBM2E的方案,AMD在釋出會上宣稱這一設計的實現要歸功於2.5D的Elevated Fanout Bridge(EFB)架構。
InFO-L/LSI技術 / 臺積電
從圖解上來看,AMD的EFB與臺積電的InFO-L 2.5D封裝技術可以說是從一個模子裡刻出來的。在專門用於HBM整合的方案,目前可以做到這種規模的異構似乎也只有臺積電的InFO-L和CoWoS-L,利用LSI(本地矽互聯)晶片,為SoC到SoC與SoC到HBM提供高佈線密度的互聯。
其實英特爾也有類似的2.5D封裝方案EMIB,只不過該方案是在基板內放入一個矽橋die。而反觀AMD的EFB和臺積電的LSI方案則是將其置於基板的模具中,模具內分佈著一系列銅柱。相較之下,EMIB雖然可以做到更低的寄生電感,卻也對於基板的加工提出了很高的要求,這也是為何只有英特爾這個基板大廠才使用EMIB的原因之一。不過隨著IDM 2..0模式的展開,英特爾也將公開提供自己的製程、IP和封裝技術,未來也許會有其他廠商的晶片開始用上EMIB。但目前來看,雖然增加了高度控制的挑戰,但為了使用標準的基板降低成本,EFB和LSI明顯是最優解。
在外觀尺寸上,AMD選擇了OAM和PCIe兩種形式。OAM為開放計算專案(OCP)定下的通用加速器模組標準,對於想要規模化部署GPU或其他加速器來說,OAM可以提供更大的頻寬。作為Facebook和微軟共同推行的公開標準,OAM已經在伺服器領域有了不小的規模,不僅是英特爾、AMD和英偉達這些半導體廠商,浪潮、聯想、百度和阿里巴巴等其他伺服器與公有云廠商也開始支援這一標準。
目前OAM的MI250和MI250X已經進入可交付階段,從今年第三季度起,AMD就已經在為美國能源部的橡樹嶺國家實驗室持續交付MI250X GPU了,用於組成美國首個ExaScale級別的超級計算機Frontier。除了OAM模組外,AMD也將在不久提供PCIe版本的MI210,用於非密集運算的場景。
結語
隨著英特爾、三星和臺積電在2.5D/3D封裝技術上的逐漸成熟,伺服器晶片將成為受益最大的產品,未來2+8甚至3+8的MCM GPU可能更加常見。英偉達、AMD與英特爾三家在伺服器/資料中心市場上的動向,也側面體現了IDM與Fabless廠商之間在技術選擇上的差異。英特爾如果不能儘快在製程和封裝上超越臺積電這樣的晶圓代工廠,在伺服器市場的優勢可能會越來越小。