AMD MI300X加速GPU買家首秀:八路并行 死磕NVIDIA就靠它了!
快科技1月23日消息,AMD去年底正式發(fā)布了新一代加速GPU Instinct MI300X/MI300A,首批向超算、數(shù)據(jù)中心等大客戶出貨,包括美國政府、微軟、Meta,現(xiàn)在一些小客戶也拿到了貨。
LaminiAI,一家新興的AI創(chuàng)業(yè)企業(yè),一直與AMD關(guān)系非常好,就曬出了自己批量到貨的MI300X,將用來訓練自己的LLM大語言模型。
他們使用的是八路并行配置,單系統(tǒng)就有八塊這樣的加速器,從截圖里就可以看到八塊卡,只不過都處于空閑狀態(tài),并未火力全開。
早在去年7月,美國能源部旗下的勞倫斯利弗莫爾國家實驗室(LLNA)就宣布,全新的“El Capitan”(酋長巖)超算已開始安裝MI300A加速器,將在2024年滿血上線,預計性能超過200億億次浮點計算每秒。
如今,小客戶也拿到了MI300加速器,顯然產(chǎn)能已經(jīng)上來,可以批量供貨了,對AMD來說非常關(guān)鍵。
AMD此前曾預計,MI300系列加速器將成為公司歷史上最快達到1億美元收入的產(chǎn)品。
AMD MI300X集成八個5nm XCD加速計算模塊,共計304個計算單元,搭配四個6nm IOD模塊,集成256MB無限緩存,還有八顆共192GB HBM3內(nèi)存,總計1530億個晶體管。
按照官方說法,MI300X的性能可以超過NVIDIA H100 80GB。
MI300A是全球首款面向AI、HPC的APU加速器,配置六個XCD模塊、228個計算單元,以及三個CCD哦快、24個Zen4 CPU核心,搭配128GB HBM3內(nèi)存,總計1460億個晶體管。
本站所有文章、數(shù)據(jù)、圖片均來自互聯(lián)網(wǎng),一切版權(quán)均歸源網(wǎng)站或源作者所有。
如果侵犯了你的權(quán)益請來信告知我們刪除。郵箱:business@qudong.com