快科技7月5日消息，在2024年世界人工智能大會上，無問芯穹發(fā)布了全球首個千卡規(guī)模異構(gòu)芯片混訓(xùn)平臺。

這一平臺的發(fā)布，標志著AI算力資源的整合與利用達到了前所未有的高度，為大模型訓(xùn)練提供了強大的支持。

該平臺通過Infini-AI云平臺集成，實現(xiàn)了大模型異構(gòu)千卡混訓(xùn)能力，支持包括AMD、華為昇騰、天數(shù)智芯、沐曦、摩爾線程、NVIDIA等六種異構(gòu)芯片在內(nèi)的混合訓(xùn)練。

這一技術(shù)的實現(xiàn)，得益于與清華、上交聯(lián)合研究團隊發(fā)布的HETHUB系統(tǒng)，該系統(tǒng)首次實現(xiàn)了六種不同品牌芯片間的交叉混合訓(xùn)練。

無問芯穹聯(lián)合創(chuàng)始人夏立雪強調(diào)，這一平臺的發(fā)布，將打破異構(gòu)芯片“生態(tài)豎井”，將不同硬件生態(tài)系統(tǒng)的封閉與互不兼容轉(zhuǎn)化為大算力，有效整合與利用算力資源。

這一進步不僅提高了算力利用率，最高可達97.6%，還為AI開發(fā)者提供了更加通用、高效、便捷的研發(fā)環(huán)境。

隨著大模型行業(yè)進入規(guī)模化產(chǎn)業(yè)落地階段，無問芯穹的這一創(chuàng)新平臺將助力推動大模型在各行業(yè)的應(yīng)用創(chuàng)新，實現(xiàn)“讓天下沒有難用的AI算力”的愿景。

夏立雪比喻說，今天讓大模型成本下降到原來的1/10000，就像30年前讓家家戶戶都通電一樣，優(yōu)良的基礎(chǔ)設(shè)施將使更多人擁抱新技術(shù)。