快科技3月19日消息，在整個AI算力硬件的搭建中，英偉達毫無疑問站在最頂端，其GPU的動態(tài)發(fā)展，直接關(guān)乎了行業(yè)的發(fā)展。

在今天開幕的GTC 2024上，黃仁勛帶來了新的B200 GPU，其擁有2080億個晶體管，可提供高達20petaflops的FP4算力。

至于GB200，就是將兩個GPU和一個Grace CPU結(jié)合在一起，可為LLM推理工作負(fù)載提供30倍的性能，同時還可能大大提高效率。

英偉達也形象給出了提升的高度，比如訓(xùn)練一個1.8萬億個參數(shù)的模型以前需要8000個Hopper GPU和15兆瓦的電力。如今，2000個Blackwell GPU就能完成這項工作，耗電量僅為4兆瓦。

在具有1750億個參數(shù)的GPT-3 LLM基準(zhǔn)測試中，GB200的性能是H100的7倍，而訓(xùn)練速度是H100的4倍。這些顯著性能的提升下，新一代 NVLink交換機起到了關(guān)鍵效果，可讓576個GPU相互連接，雙向帶寬達到每秒1.8TB。

按照黃仁勛的說法，搭載B200芯片的GB200 Grace Blackwell計劃今年晚些時候發(fā)貨，英偉達目前并未公布GB200以及整套方案的售價信息，但目前的現(xiàn)狀是有錢你也不一定能買到，中國廠商也是看看就行了。

黃仁勛表示，Blackwell帶來了“令人難以置信的興奮”：“我們將會把Blackwell推廣給全球的AI公司，全球各地都在簽約啟動Blackwell，這款Blackwell將成為我們歷史上最成功的產(chǎn)品發(fā)布?！?/p>

Blackwell平臺能夠在萬億參數(shù)級的大型語言模型（LLM）上構(gòu)建和運行實時生成式AI，而成本和能耗比前身低25倍。