1月6日消息，AMD 在 CES 2023展會(huì)上推出了下一代面向數(shù)據(jù)中心的APU產(chǎn)品Instinct MI300，其采用chiplet設(shè)計(jì)，擁有13個(gè)小芯片，晶體管數(shù)量高達(dá)1460億個(gè)。

具體來說，Instinct MI300由13個(gè)小芯片整合而成，其中許多基于3D堆疊的，擁有24個(gè)Zen4 CPU 內(nèi)核，并融合了CDNA 3 圖形引擎，以及共享的統(tǒng)一內(nèi)存池，包括 Infinity Cache 高速緩存和8個(gè)HBM共享內(nèi)存設(shè)計(jì)。

總體而言，該芯片擁有1460億個(gè)晶體管，超過了英特爾的1000億晶體管的Ponte Vecchio，成為了AMD投入生產(chǎn)的最大芯片。

從曝光的照片可以看到，MI300兩側(cè)擁有八個(gè)共計(jì)128GB的HBM3芯片，在這些 HBM3芯片之間還放置了多個(gè)小塊結(jié)構(gòu)的硅片，以確保冷卻解決方案在封裝頂部擰緊時(shí)的穩(wěn)定性。

MI300的計(jì)算部分由9個(gè)基于臺(tái)積電5nm工藝制程的小芯片組成，包括了CPU和GPU內(nèi)核，但AMD并未提供每個(gè)小芯片的詳細(xì)信息。

由于Zen 4 內(nèi)核通常部署為八個(gè)核芯，因此24核CPU則意味著有3個(gè)小芯片是CPU芯片，另外6個(gè)則是GPU芯片。

GPU芯片使用AMD的CDNA 3架構(gòu)，這是AMD數(shù)據(jù)中心特定圖形架構(gòu)的第三個(gè)版本。

AMD 尚未明確CU數(shù)量，不過官方公布的數(shù)據(jù)顯示，CDNA 3的每瓦特AI性能達(dá)到了上代CDNA 2的5倍。

這9個(gè)小芯片是通過3D封裝堆疊在4個(gè)6nm小芯片上，這些芯片不僅僅是無源中介層——這些芯片是有源的，可以處理I/O和各種其他功能。

AMD 代表展示了另一個(gè) MI300 樣品，該樣品打磨了頂部模具，以揭示四個(gè)有源中介層模具的結(jié)構(gòu)。

這些結(jié)構(gòu)不僅可以在I / O瓦片之間實(shí)現(xiàn)通信，還可以實(shí)現(xiàn)與HBM3堆棧接口的內(nèi)存控制器之間的通信。

但是這個(gè)樣品禁止拍照，因此沒法提供照片。

3D堆疊設(shè)計(jì)允許CPU、GPU 和內(nèi)存芯片之間實(shí)現(xiàn)令人難以置信的數(shù)據(jù)吞吐量，同時(shí)還允許 CPU 和 GPU 同時(shí)處理內(nèi)存中的相同數(shù)據(jù)（零拷貝），從而節(jié)省功耗、提高性能并簡(jiǎn)化編程。

看看該設(shè)備是否可以在沒有標(biāo)準(zhǔn)DRAM的情況下使用會(huì)很有趣，正如我們?cè)谟⑻貭柕腦eon Max CPU中看到的那樣，它也采用了封裝上的HBM。

AMD的代表不愿透露更多細(xì)節(jié)，因此不清楚AMD是否使用標(biāo)準(zhǔn)的TSV方法將上下芯片連接在一起，或者是否使用更先進(jìn)的混合鍵合方法。

AMD表示，將很快分享有關(guān)封裝方面的更多詳細(xì)信息。

AMD聲稱MI300提供的AI性能、每瓦性能是Instinct MI250的8倍、5倍（使用稀疏性FP8基準(zhǔn)測(cè)試）。

AMD還表示，它可以將ChatGPT和DALL-E等超大型AI模型的訓(xùn)練時(shí)間從幾個(gè)月減少到幾周，從而節(jié)省數(shù)百萬美元的電力。

當(dāng)前一代的Instinct MI250為世界上第一臺(tái)百萬兆級(jí)超級(jí)計(jì)算機(jī)Frontier提供動(dòng)力，Instinct MI300將為即將推出的美國新一代El Capitan超級(jí)計(jì)算機(jī)提供動(dòng)力，其FP64 峰值計(jì)算性能高達(dá)200億億次（2 ExaFLOPS）。

AMD表示，這些面向超級(jí)計(jì)算機(jī)的MI300芯片將昂貴且相對(duì)罕見——這些不是大批量產(chǎn)品，因此它們不會(huì)像EPYC Genoa數(shù)據(jù)中心CPU那樣廣泛部署。但是，該技術(shù)將過濾到不同外形尺寸的多個(gè)變體。

該芯片還將與NVIDIA的Grace Hopper Superchip競(jìng)爭(zhēng)，后者是在同一基板上整合了Hopper GPU和Grace CPU。這些芯片預(yù)計(jì)將于今年上市。

基于Neoverse的Grace CPU基于Arm v9指令集，配備了兩個(gè)與Nvidia新品牌的NVLink-C2C互連技術(shù)融合在一起的芯片。

AMD的方法旨在提供卓越的吞吐量和能源效率，因?yàn)閷⑦@些設(shè)備組合到單個(gè)封裝中，通常比連接兩個(gè)單獨(dú)的設(shè)備時(shí)能夠在單元之間實(shí)現(xiàn)更高的吞吐量。

MI300還將與英特爾的Falcon Shores競(jìng)爭(zhēng)，后者將具有不同數(shù)量的計(jì)算模塊，包括x86內(nèi)核，GPU內(nèi)核和內(nèi)存，具有令人眼花繚亂的可能配置，但這些要到2024年才能到來。

在這里，我們可以看到MI300封裝的底部，其中包含用于LGA安裝系統(tǒng)的接觸墊。

AMD沒有分享更多細(xì)節(jié)，該芯片目前正在AMD的實(shí)驗(yàn)室中。

AMD預(yù)計(jì)將在2023年下半年交付Instinct MI300，屆時(shí)El Capitan超級(jí)計(jì)算機(jī)將首發(fā)部署MI300，有望成為世界上最快的超級(jí)計(jì)算機(jī)。

值得一提的是，英特爾聯(lián)合阿貢國家實(shí)驗(yàn)室也在部署運(yùn)算速度高達(dá)200億億次極光（Aurora）超級(jí)計(jì)算機(jī)，該超級(jí)計(jì)算機(jī)基于英特爾的擁有超過1000億個(gè)晶體管的Ponte Vecchio數(shù)據(jù)中心顯卡。