首個中文原生DiT架構(gòu)!騰訊混元文生圖大模型宣布全面開源
來源:快科技 編輯:非小米 時間:2024-05-14 16:30人閱讀
快科技5月14日消息,今日,騰訊旗下混元文生圖大模型(混元DiT,Diffusion Models with Transformers)宣布全面開源。
目前已在Hugging Face、Github上發(fā)布,包含模型權(quán)重、推理代碼、模型算法等完整模型,供企業(yè)與個人開發(fā)者免費商用。
據(jù)媒體報道,騰訊混元文生圖負責人盧清林表示,混元DiT開源的價值有兩方面。
一方面這是業(yè)內(nèi)首個中文原生DiT架構(gòu),彌補了開源社區(qū)的空白,另一方面混元DiT為全面開放,與現(xiàn)網(wǎng)版本完全一致。
據(jù)介紹,此次開源的混元DiT采用了與Sora同樣的背后關(guān)鍵技術(shù)——DiT架構(gòu),還支持256字中文理解,不僅支持文生圖,也可作為視頻等多模態(tài)視覺生成的基礎(chǔ)。
騰訊方面表示,為了構(gòu)建混元DiT設(shè)計了Transformer結(jié)構(gòu)、文本編碼器和位置編碼,構(gòu)建了完整的數(shù)據(jù)管道,用于更新和評估數(shù)據(jù),為模型優(yōu)化迭代提供幫助。
為了實現(xiàn)細粒度的文本理解,還訓練了多模態(tài)大語言模型來優(yōu)化圖像的文本描述。
最終,混元DiT能夠與用戶進行多輪對話,根據(jù)上下文生成并完善圖像。
分享到:
本站所有文章、數(shù)據(jù)、圖片均來自互聯(lián)網(wǎng),一切版權(quán)均歸源網(wǎng)站或源作者所有。
如果侵犯了你的權(quán)益請來信告知我們刪除。郵箱:business@qudong.com