快科技3月19日消息，在整個(gè)AI算力硬件的搭建中，英偉達(dá)毫無(wú)疑問站在最頂端，其GPU的動(dòng)態(tài)發(fā)展，直接關(guān)乎了行業(yè)的發(fā)展。

在今天開幕的GTC 2024上，黃仁勛帶來(lái)了新的B200 GPU，其擁有2080億個(gè)晶體管，可提供高達(dá)20petaflops的FP4算力。

至于GB200，就是將兩個(gè)GPU和一個(gè)Grace CPU結(jié)合在一起，可為L(zhǎng)LM推理工作負(fù)載提供30倍的性能，同時(shí)還可能大大提高效率。

英偉達(dá)也形象給出了提升的高度，比如訓(xùn)練一個(gè)1.8萬(wàn)億個(gè)參數(shù)的模型以前需要8000個(gè)Hopper GPU和15兆瓦的電力。如今，2000個(gè)Blackwell GPU就能完成這項(xiàng)工作，耗電量?jī)H為4兆瓦。

在具有1750億個(gè)參數(shù)的GPT-3 LLM基準(zhǔn)測(cè)試中，GB200的性能是H100的7倍，而訓(xùn)練速度是H100的4倍。這些顯著性能的提升下，新一代 NVLink交換機(jī)起到了關(guān)鍵效果，可讓576個(gè)GPU相互連接，雙向帶寬達(dá)到每秒1.8TB。

按照黃仁勛的說(shuō)法，搭載B200芯片的GB200 Grace Blackwell計(jì)劃今年晚些時(shí)候發(fā)貨，英偉達(dá)目前并未公布GB200以及整套方案的售價(jià)信息，但目前的現(xiàn)狀是有錢你也不一定能買到，中國(guó)廠商也是看看就行了。

黃仁勛表示，Blackwell帶來(lái)了“令人難以置信的興奮”：“我們將會(huì)把Blackwell推廣給全球的AI公司，全球各地都在簽約啟動(dòng)Blackwell，這款Blackwell將成為我們歷史上最成功的產(chǎn)品發(fā)布?！?/p>

Blackwell平臺(tái)能夠在萬(wàn)億參數(shù)級(jí)的大型語(yǔ)言模型（LLM）上構(gòu)建和運(yùn)行實(shí)時(shí)生成式AI，而成本和能耗比前身低25倍。