之前世超寫(xiě)過(guò)一篇 AI 有多耗水的稿子，說(shuō)是谷歌數(shù)據(jù)中心去年一年就花掉了一個(gè)半西湖的水量。

除了耗水，可能很多人還忽略了一點(diǎn)，那就是 AI 在耗電這塊也是一絕。

前兩天阿里剛結(jié)束的云棲大會(huì)上，中國(guó)工程院院士、阿里云創(chuàng)始人王堅(jiān)就打了這么一個(gè)比方——

過(guò)去一百年里，全球電動(dòng)機(jī)消耗掉的電量就占到了總發(fā)電量的一半，而現(xiàn)在的大模型就相當(dāng)于新時(shí)代的電機(jī)。

而這個(gè)新時(shí)代的 “ 電機(jī) ” ，也是相當(dāng)耗電。

現(xiàn)在，為了喂飽它這只電老虎，有些公司甚至準(zhǔn)備搬出了 “ 核動(dòng)力 ” 。

其實(shí)在業(yè)內(nèi)，關(guān)于 AI 和能源之間的話題也是沒(méi)有斷過(guò)。

Huggingface 的科學(xué)家就專(zhuān)門(mén)測(cè)試過(guò)各個(gè)大模型的耗電量和碳排放，世超翻了翻這篇論文，也是直觀地感受到了大模型耗電的瘋狂。

先是 Huggingface 自家的 BLOOM 大模型，有 1760 億參數(shù)，光是前期訓(xùn)練它，就得花掉 43.3 萬(wàn)度電，我換算了下，相當(dāng)于國(guó)內(nèi) 117 個(gè)家庭一年用掉的電量。

和它參數(shù)量相當(dāng)?shù)?GPT-3 ，耗電量就更不受控制，同樣是前期訓(xùn)練，就要用掉 128.7 萬(wàn)度電，足足是前者的三倍。

甚至有人做過(guò)這樣一個(gè)類(lèi)比， OpenAI 每訓(xùn)練一次，就相當(dāng)于 3000 輛特斯拉同時(shí)跑 32 公里。。。

這還只是 AI 前期訓(xùn)練用的電，在后期使用過(guò)程中累積的耗電量才是大頭。

一般來(lái)說(shuō)，訓(xùn)練就是不斷調(diào)整參數(shù)、重復(fù)訓(xùn)練，最后得到一個(gè)使用體驗(yàn)最好的模型，整個(gè)過(guò)程是有限度的。

后期的推理過(guò)程就不一樣了，比如我們用 ChatGPT ，每問(wèn)一次問(wèn)題都相當(dāng)于是一次推理請(qǐng)求。

現(xiàn)在 ChatGPT 的月活用戶早已經(jīng)破億，它每天推理的頻次的飆升可想而知。

更具體一點(diǎn)，拿自動(dòng)駕駛來(lái)說(shuō)，前期訓(xùn)練花費(fèi)的能耗成本就只有兩三成，剩下的七八成都是后期的推理消耗的。

《晚點(diǎn) LatePost 》之前也拿 ChatGPT 做了這么一個(gè)測(cè)算，按日均最高訪問(wèn)量 2.7 億次來(lái)計(jì)算，假設(shè)每個(gè)人每次訪問(wèn)會(huì)問(wèn)五個(gè)問(wèn)題，一整個(gè)月下來(lái)光是推理消耗的電量就是 1872 萬(wàn)度。

總的來(lái)講， AI 這幾年來(lái)消耗的電力正在以指數(shù)級(jí)別增長(zhǎng)，然而現(xiàn)在全球發(fā)電已經(jīng)差不多已經(jīng)趨于平緩。

照這個(gè)態(tài)勢(shì)發(fā)展下去，估計(jì)再過(guò)幾十年，光是 AI 的耗電量，就足以導(dǎo)致全球用電荒了。。。

來(lái)自 AMD ，紅色表示 AI 能耗，綠色表示現(xiàn)有能源

而之所以這么耗電，一方面和近幾年來(lái) AI 圈子內(nèi)部搞起的軍備競(jìng)賽不無(wú)關(guān)系。

國(guó)外在 OpenAI 之后，谷歌、 Meta 自家大模型的研發(fā)迭代也沒(méi)停過(guò)。

國(guó)內(nèi)卷得就更厲害，百度的文心一言、阿里的通義千問(wèn)、騰訊的混元等等等等，參數(shù)一個(gè)賽一個(gè)高，這還只是大廠們的賽道，一些大模型初創(chuàng)企業(yè)更是海了去了。

另一方面， AI 用掉這么多電，和它背后數(shù)據(jù)中心不無(wú)關(guān)系。

在數(shù)據(jù)中心，用電最多的地方就是 AI 服務(wù)器，因?yàn)橐写笠?guī)模的計(jì)算，普通的服務(wù)器根本就不夠用，還得用專(zhuān)屬的 AI 服務(wù)器。

然鵝 AI 服務(wù)器，光是功率就比普通服務(wù)器高出了六七倍，普通服務(wù)器一般只需要兩個(gè) 800W~1200W 的電源， AI 服務(wù)器，則要 4 顆 1800W 的高功率電源。

emmm 這不耗電都說(shuō)不過(guò)去。。。

AI 的耗電，當(dāng)然卷大模型的廠商比我們清楚得多，畢竟在他們那里可是真金白銀的電費(fèi)嘩嘩往外流。。。

所以在解決 AI 能耗的問(wèn)題上，業(yè)內(nèi)也是使出了渾身解數(shù)。

第一個(gè)辦法是想辦法提高 AI 芯片性能，性能上去了，耗電自然而然也就下去了。

另外一個(gè)辦法就簡(jiǎn)單粗暴了，既然耗電多導(dǎo)致電費(fèi)高，那找個(gè)更便宜的能源不就行了。

就比如國(guó)內(nèi)目前就在搞 “ 東數(shù)西算 ” 的工程，在西部清潔能源豐富的地區(qū)建立數(shù)據(jù)中心，用來(lái)處理東部的數(shù)據(jù)。

并且東部地區(qū)數(shù)據(jù)中心密集，工商業(yè)的平均電價(jià)大概在 0.676 元 / 度，而西部地區(qū)平均電價(jià)在 0.541 元 / 度，錢(qián)不就這么省下來(lái)了么。

有些公司則又看準(zhǔn)了核能賽道。

像 OpenAI 和微軟都先后投資了核能發(fā)電，不過(guò)不是傳統(tǒng)的核裂變發(fā)電方式，而是還在實(shí)驗(yàn)室階段的核聚變。

早在 2015 年， OpenAI CEO 奧特曼就對(duì)核聚變發(fā)電感興趣了，向一家核聚變初創(chuàng)企業(yè) Helion 投資了 950 萬(wàn)美金， 2021 年，又給它豪擲了 3.75 億美元。

緊接著在今年 5 月份，在核聚變發(fā)電站還沒(méi)著落的時(shí)候，微軟就和 Helion 簽訂了購(gòu)電協(xié)議，說(shuō)要在 2030 年前實(shí)現(xiàn)負(fù)碳目標(biāo)。

世超倒真有點(diǎn)好奇，這個(gè) Helion 到底有什么魔力，在八字還沒(méi)一撇的時(shí)候，讓 OpenAI 和微軟先后都在它身上下這么大的注。

不過(guò)這事吧，從它給微軟的的承諾中就能窺探出一二。Helion 在那份購(gòu)電協(xié)議中表示， 2028 年前上線的核聚變裝置，在一年內(nèi)會(huì)把發(fā)電功率提升到 50 兆瓦以上。

什么概念？相當(dāng)于撐起 40000 戶家庭的供電。

更重要的是，買(mǎi)核聚變發(fā)出來(lái)的電，還賊拉便宜，折合成人民幣相當(dāng)于 7 分錢(qián)一度電，這誘惑誰(shuí)擋得住啊。

微軟也沒(méi)把所有雞蛋放在一個(gè)籃子里，在下注核聚變發(fā)電的同時(shí)，他還看好了近幾年發(fā)展起來(lái)的小型核反應(yīng)堆（ SMR ）。

不久前，微軟發(fā)了個(gè)招聘通知，說(shuō)要找個(gè) “ 核技術(shù)首席項(xiàng)目經(jīng)理 ” ，來(lái)管SMR 這塊的工作。

和傳統(tǒng)核電的大型反應(yīng)堆比，理論上 SMR 這玩意兒體積更小，甚至可以在工廠里批量生產(chǎn)。

發(fā)電功率也是傳統(tǒng)反應(yīng)堆的三倍，并且 SMR 也不用擔(dān)心損壞時(shí)釋放放射性元素，因?yàn)樗茉诘谝粫r(shí)間自動(dòng)關(guān)閉系統(tǒng)。

同時(shí) SMR 也更省錢(qián)，平均每 1000 度電下來(lái)就能省將近 100 美元。。。

當(dāng)然，這些東西目前還是八字沒(méi)那一撇， AI 耗電猛的現(xiàn)狀，短時(shí)間內(nèi)也很難會(huì)得到改變。

各種核聚變項(xiàng)目，世超也不好說(shuō)它們到底能不能成。

但 AI 的發(fā)展，說(shuō)不定會(huì)給核能來(lái)一記大助攻。

如果這個(gè)世界是一局電子游戲的話，說(shuō)不定可控核聚變的科技樹(shù)，正好就在 AI 之后呢。

撰文：松鼠 編輯：江江 & 面線 封面：萱萱

圖片、資料來(lái)源：

David Patterson，Carbon Emissions and Large Neural Network Training

WSJ，Artificial Intelligence Can Make Companies Greener, but It Also Guzzles Energy

虎嗅，訓(xùn)練一次ChatGPT，“折壽”3000輛特斯拉

IT之家，AI 能耗成本太高，微軟考慮用核電來(lái)為數(shù)據(jù)中心供能

晚點(diǎn) LatePost，ChatGPT 每月用的電已經(jīng)夠一個(gè)小城鎮(zhèn)生活

華爾街見(jiàn)聞：AI耗電的“終極解決方案”：小型核反應(yīng)堆

sciencealert，AI Keeps Using More And More Energy. Where Will It End?

神譯局，AI的B面：能耗爆發(fā)式增長(zhǎng)，電力撐得起AI的算力嗎？