韓國(guó)人 卡住了英偉達(dá)的脖子
今天凌晨的時(shí)候,小發(fā)給我發(fā)了個(gè)大新聞:
老黃出手,從微軟手里買(mǎi)下了 Xbox ,下一代的 Xbox 將有雙顯卡、 AI 加持,誓要把隔壁的 PS6 錘出人中黃來(lái)。
但很不幸,這是一個(gè)拙劣的愚人節(jié)惡搞!
我就說(shuō)嘛,已經(jīng)是 AI 軍火商的老黃,早就把游戲佬們當(dāng)成牛夫人了,怎么可能花大價(jià)錢(qián)再來(lái)搞游戲。
還記得前不久的 GTC 大會(huì)吧,老黃公布 B200 時(shí)的狀態(tài),可比發(fā)布什么 “ 破 4090 ” 嗨多了。
想買(mǎi)老黃顯卡的人,從這里排到了法國(guó)。
但,就從世超看來(lái),老黃還真不一定高枕無(wú)憂,至少它的脖子被韓國(guó)人狠狠卡著。
例如老黃最新發(fā)布的 B200 芯片上,就有多達(dá) 4 疊最新的 HBM ( 高帶寬內(nèi)存 )內(nèi)存芯片:HBM3e 。
而這個(gè)東西,在這個(gè)星球上,目前基本上只有韓國(guó)人能量產(chǎn)。
根據(jù) Trendforce 數(shù)據(jù),韓國(guó)的 SK 海力士和三星,他倆在 2023 年拿捏了全球 90% 的 HBM 內(nèi)存產(chǎn)能。
而兩年市面上的 AI 芯片,什么 A100 A800 們,反正你能想到的,基本就沒(méi)誰(shuí)能離開(kāi) HBM 內(nèi)存。
所以,就在老黃的英偉達(dá)市值突破萬(wàn)億的時(shí)候, SK 海力士的股價(jià),也在去年偷偷翻了一倍多,如今市值已經(jīng)突破千億了。。。
就連之前路線選擇錯(cuò)誤的三星,股價(jià)也漲到了近兩年最高的水平。
可能大家對(duì) HBM 內(nèi)存技術(shù)有多重要還沒(méi)概念。
就這么說(shuō)吧,韓國(guó)在今年初已經(jīng)把這個(gè)技術(shù)列為國(guó)家戰(zhàn)略技術(shù),想通過(guò)給 SK 海力士和三星稅收等方面的優(yōu)惠,保持著自家的領(lǐng)先地位。
甚至老黃在最新發(fā)布的 B200 AI 芯片的同時(shí),早就給了 SK 海力士等幾百億人民幣定金,直接把這些廠今年一年的產(chǎn)量給包圓了。
要知道, SK 海力士上個(gè)月底剛實(shí)現(xiàn)量產(chǎn)交付 HBM3e 內(nèi)存,這不比隔壁小米 SU7 的大定猛多了?
而這么爽快的生意,可把隔壁三星饞壞了,急急忙忙在 2 月份發(fā)布了自家 HBM3e 樣品,立馬就發(fā)給滿世界客戶驗(yàn)貨。
那為什么 HBM 內(nèi)存能這么受歡迎呢?
這就不得不提內(nèi)存技術(shù)長(zhǎng)期以來(lái)的拉跨了。
在信息化時(shí)代,無(wú)論是游戲還是工作,電腦系統(tǒng)的運(yùn)行速度其實(shí)是要靠處理器和內(nèi)存的互相配合的。
理論上,如果這倆速度接近,那肯定是最佳拍檔。
但過(guò)去的很長(zhǎng)時(shí)間里,處理器的性能指數(shù)式暴漲,內(nèi)存和硬件之間的傳輸速度,卻壓根就跟不上。
在過(guò)去 20 年中,硬件的峰值計(jì)算能力增加了 90000 倍,但是內(nèi)存和硬件互連帶寬卻只是提高了 30 倍。
打個(gè)不是很貼切的比方,處理器相當(dāng)于是中華小當(dāng)家,內(nèi)存就是邊上配菜的助手,小當(dāng)家技術(shù)再高,助手菜配不過(guò)來(lái),上菜還是快不了。
所以這些年,內(nèi)存成了拖累計(jì)算機(jī)性能的拖油瓶,甚至有人把這種現(xiàn)象稱(chēng)為 “ 內(nèi)存墻 ” 。
這些問(wèn)題對(duì)于我們臭打游戲的來(lái)說(shuō),還算能接受,畢竟現(xiàn)在用著 1066 打 3A 的人肯定還不少。
真讓他們忙不過(guò)來(lái)的,其實(shí)是這兩年的 AI 大爆發(fā)。因?yàn)?AI 大模型的基礎(chǔ)離不開(kāi)海量的數(shù)據(jù)和算力,而要想支撐這么大的數(shù)據(jù)處理和傳輸,就要打破 “ 內(nèi)存墻 ” 。
換句話說(shuō),打游戲?qū)τ谛‘?dāng)家來(lái)說(shuō)是點(diǎn)了四菜一湯,那隔壁 AI 隨便搞個(gè)訓(xùn)練就相當(dāng)于是要了一桌滿漢全席。
所以對(duì)于 AI 大廠們來(lái)說(shuō),內(nèi)存墻就像是鎖死自己發(fā)展水平的智子,而 HBM 就是那個(gè)破墻者。
和傳統(tǒng)的 DDR 內(nèi)存采用的 " 平房設(shè)計(jì) " 不同,破墻者 HBM 采用了 " 樓房設(shè)計(jì) " ,來(lái)了個(gè)降維打擊。
在芯片里造樓,主要靠的是硅通孔( Through-Silicon Via , TSV )這種先進(jìn)封裝技術(shù)。
簡(jiǎn)單來(lái)說(shuō),就是把不同的芯片疊在一起,中間打一堆孔,然后用銅管等導(dǎo)電物質(zhì)給接起來(lái)。
從物理意義上減小了數(shù)據(jù)傳輸距離、占地面積等等。
這樣一來(lái),就能減小信號(hào)延遲、實(shí)現(xiàn)芯片的低功耗、增加帶寬等等一堆優(yōu)點(diǎn)。
隨著工藝水平提升, TSV 可以越做越小,密度越來(lái)越大,堆疊 Die 層數(shù)也能越來(lái)越多,就能進(jìn)一步提升帶寬和傳輸速度以及最大容量。
前面提到三星最新產(chǎn)品,就已經(jīng)是 12 層堆棧容量高達(dá) 36 GB 的 HBM3e 了。
別看說(shuō)起來(lái)這么簡(jiǎn)單,實(shí)際上, HBM 技術(shù)里從材料、設(shè)計(jì)、封裝、散熱等等環(huán)節(jié),都是難點(diǎn)。
而這些技術(shù)難點(diǎn),大部分都是被韓國(guó)的 SK 海力士率先攻克的。
所以,像 HBM3 和 HBM3e 也都是由 SK 海力士率先突破并實(shí)現(xiàn)量產(chǎn)。
到了 HBM3 這一代,就已經(jīng)實(shí)現(xiàn)了高達(dá) 1024 位的數(shù)據(jù)路徑,運(yùn)行速率也達(dá)到了驚人的 6.4 Gb/s ,帶寬高達(dá) 819 Gb/s 。
而最新的 HBM3e ,其實(shí)是 HBM 內(nèi)存技術(shù)家族的第五代產(chǎn)品,它的最高數(shù)據(jù)處理速度已經(jīng)達(dá)到了每秒 1.18TB (太字節(jié)),相當(dāng)于 1 秒內(nèi)處理 200 多部全高清( FHD )級(jí)別的電影。
別看 HBM 賽道目前還有 SK 海力士、三星和美光御三家在玩,但無(wú)論是從發(fā)展時(shí)間、技術(shù)突破還是量產(chǎn)速度上, SK 海力士一直獨(dú)占鰲頭,光他們一家就占領(lǐng)了一半左右的市場(chǎng)份額。
排在身后的,則是同為韓國(guó)企業(yè)的三星,這家伙今年又一口氣組建了兩個(gè) HBM 團(tuán)隊(duì)想要追趕上進(jìn)度。
而美國(guó)的美光雖然放出話來(lái),自家跳過(guò)研發(fā) HBM3 ,直接成功完成了 HBM3e 的研究。
甚至如今還成為了英偉達(dá)的供貨商之一,但世超覺(jué)得,這么大的口氣,還有待市場(chǎng)驗(yàn)證。
所以,這么捋下來(lái),英偉達(dá)的 AI 軍火商計(jì)劃,還真得建立在這些 HBM 廠商的供貨上。
雖然大家都在說(shuō), AI 界硬通貨是 H100 、是 B200 。
誰(shuí)能想到,最終居然還被韓國(guó)卡著一道呢?
撰文:八戒 編輯:江江 & 面線 封面:煥妍
圖片、資料來(lái)源:
太平洋證券:AI服務(wù)器催化HBM需求爆發(fā),核心工藝變化帶來(lái)供給端增量 —算力系列報(bào)告(一)
東方財(cái)富證券:玻璃通孔(TGV)為硅通孔(TSV)有效補(bǔ) 充,AI+Chiplet趨勢(shì)下大有可為
中郵證券:先進(jìn)封裝關(guān)鍵技術(shù)——TSV 研究框架
Micron:Micron Commences Volume Production of Industry-Leading HBM3E Solution to Accelerate the Growth of AI
SK hynix:SK hynix Develops World's Best Performing HBM3E, Provides Samples to Customer for Performance Evaluation
Samsung:Samsung Develops Industry-First 36GB HBM3E 12H DRAM
NVIDIA:NVIDIA DGX B200
半導(dǎo)體產(chǎn)業(yè)縱橫:HBM3E起飛,沖鋒戰(zhàn)鼓已然擂響
華爾街見(jiàn)聞:高盛談HBM:四年十倍的市場(chǎng),海力士將占據(jù)過(guò)半份額,美光或后來(lái)居上
本站所有文章、數(shù)據(jù)、圖片均來(lái)自互聯(lián)網(wǎng),一切版權(quán)均歸源網(wǎng)站或源作者所有。
如果侵犯了你的權(quán)益請(qǐng)來(lái)信告知我們刪除。郵箱:business@qudong.com