時(shí)間是殘酷游戲，比如當(dāng)驚艷的Apple Vision Pro終于出場(chǎng)，早已無(wú)人惦記遙遠(yuǎn)的諾基亞。

但包括未來(lái)將要登陸Apple Vision Pro的游戲開(kāi)發(fā)者Ryan McLeod在內(nèi)，一切手機(jī)游戲都需要向諾基亞在1997年首次將《貪吃蛇》內(nèi)置的決定致敬，這個(gè)動(dòng)作真正打開(kāi)了手機(jī)游戲的歷史。

《貪吃蛇》的游戲邏輯很簡(jiǎn)單，吃果子可以得分但身體會(huì)變長(zhǎng)，控制方向不撞到邊界或自己。時(shí)至今日諾基亞已經(jīng)幾乎離開(kāi)大眾視線，以《貪吃蛇》為根源的游戲仍然活躍，甚至“如何用最短的代碼寫(xiě)出一個(gè)貪吃蛇游戲”至今仍然是開(kāi)發(fā)者社區(qū)里有吸引力的話題。

這個(gè)現(xiàn)在古典而充滿美感的游戲也變成了大模型時(shí)代度量AI能力的尺子。百度智能云AI平臺(tái)副總經(jīng)理施恩在一個(gè)新的代碼助手Comate幫助下，從畫(huà)布開(kāi)始搭建《貪吃蛇》，直到最終貪吃蛇扭動(dòng)著出現(xiàn)，AI完成了其中大半的代碼工作。

整個(gè)過(guò)程不到5分鐘。

開(kāi)發(fā)者的Comate

大模型短暫而劇烈的競(jìng)爭(zhēng)直到現(xiàn)在，黑箱的迷霧仍未散去，外界的注意力正在變化。各種宏大愿景開(kāi)始冷靜下來(lái)，轉(zhuǎn)換成對(duì)更具體事物的關(guān)注。比如生成式AI在當(dāng)下究竟可以為行業(yè)帶來(lái)什么新的生產(chǎn)力。

6月6日，在成都舉行的文心大模型技術(shù)交流會(huì)上，百度開(kāi)放了代碼助手Comate邀測(cè)。這是一個(gè)與GitHub Copilot等代碼編寫(xiě)助手相似，但用了更多中文注釋和開(kāi)發(fā)文檔作為訓(xùn)練數(shù)據(jù)煉成的智能開(kāi)發(fā)工具。在編碼過(guò)程中，Comate可以根據(jù)開(kāi)發(fā)者當(dāng)前在編寫(xiě)的內(nèi)容，推理出接下來(lái)可能的輸入選擇。

文心大模型是宏大的，Comate是具體的。

對(duì)于《貪吃蛇》的游戲開(kāi)發(fā)（網(wǎng)頁(yè)版本）過(guò)程來(lái)說(shuō)，開(kāi)發(fā)者首先要在畫(huà)布上畫(huà)底，然后設(shè)定鍵盤的操作方式以及游戲結(jié)束條件的判斷，除此之外，就是爬行速度等環(huán)境要素的控制。對(duì)于Comate來(lái)說(shuō)，只需要輸入“canvas”，以及“彈性布局，水平居中，垂直居中”的中文備注，就可以完成游戲畫(huà)布代碼的生成。然后輸入“param color”、“left”、”food=”等顏色、方向、食物的簡(jiǎn)單詞，Comate會(huì)自動(dòng)聯(lián)系上下文理解指令，補(bǔ)全代碼，并在多條推薦代碼之間切換，選擇合適代碼后，直接生成了可運(yùn)行的《貪吃蛇》游戲。

據(jù)百度介紹，目前Comate能力已經(jīng)率先集成在百度所有業(yè)務(wù)線中并實(shí)現(xiàn)了很好的使用效果：核心研發(fā)部門中50%的代碼可通過(guò)Comate生成。從去年開(kāi)始Comate已經(jīng)在百度內(nèi)部進(jìn)行了大量測(cè)試。測(cè)試結(jié)果顯示，在“Comate”輔助編寫(xiě)的代碼中，近50%的建議代碼被開(kāi)發(fā)者采納，目前在百度內(nèi)部已經(jīng)廣泛應(yīng)用到各類產(chǎn)品開(kāi)發(fā)中。

Comate深度學(xué)習(xí)的對(duì)象除了百度內(nèi)部的代碼庫(kù)也包括高質(zhì)量Github代碼庫(kù)?，F(xiàn)在這個(gè)代碼助手可以實(shí)現(xiàn)代碼自動(dòng)生成、代碼自動(dòng)補(bǔ)全、代碼智能搜索、高質(zhì)量代碼推薦、測(cè)試代碼自動(dòng)生成等多種智能功能。推理速度上單請(qǐng)求可實(shí)現(xiàn)300ms左右，這意味著開(kāi)發(fā)者不需要停下來(lái)等待代碼生成，Comate完全可以匹配上開(kāi)發(fā)者的編碼速度。

當(dāng)前Comate代碼助手支持主流開(kāi)發(fā)語(yǔ)言/框架30余種，對(duì)于C/C++、Java、Python等主流語(yǔ)言Comate專門做了數(shù)據(jù)優(yōu)化，可達(dá)到更好的代碼推薦效果。此外，Comate還支持前后端、軟硬件不同場(chǎng)景、以及程序員常用的多種IDE。

從這個(gè)角度來(lái)看，《貪吃蛇》是一次直觀卻并不充分的演示。施恩也表示，《貪吃蛇》的代碼開(kāi)發(fā)其實(shí)已經(jīng)可以完全依靠大模型來(lái)不加干涉的自動(dòng)生成。只不過(guò)有趣的是，Comate從原本百度內(nèi)部智能工作平臺(tái)推出的一個(gè)“代碼推薦工具”到現(xiàn)在的“代碼生成助手”，本身也得益于大模型的能力加持。

百度智能云AI平臺(tái)副總經(jīng)理施恩 圖源：百度

Comate的孵化開(kāi)始于2018年左右，百度內(nèi)部在尋找提升開(kāi)發(fā)效能的辦法時(shí)已經(jīng)提到了代碼生成。但技術(shù)不夠成熟，所以先選擇通過(guò)檢索算法并做算法推薦的方式來(lái)提效。“那時(shí)候技術(shù)探索已經(jīng)在嘗試了。但在文心大模型出現(xiàn)之后，我們才把真正的代碼生成在更廣泛的場(chǎng)景應(yīng)用起來(lái)”，百度智能云AI平臺(tái)副總經(jīng)理李景秋對(duì)品玩表示。

Comate從搜索邏輯過(guò)渡到生成邏輯，大模型的能力開(kāi)始在開(kāi)發(fā)環(huán)節(jié)呈現(xiàn)出生產(chǎn)力變革的姿態(tài)。而如果說(shuō)Comate是文心大模型對(duì)開(kāi)發(fā)者的一次回答，那“文心一言- Turbo”則是文心一言上線兩個(gè)月后，百度給產(chǎn)業(yè)交出的一個(gè)新方案。藏于其后的，是文心千帆大模型平臺(tái)在兩個(gè)月后逐漸清晰的迭代路線。

文心千帆的迭代方向：效果+效率

百度將文心千帆定義為全球首個(gè)一站式的企業(yè)級(jí)大模型平臺(tái)。具體來(lái)看，文心千帆不僅提供包括文心一言底層模型（Ernie bot）在內(nèi)的大模型服務(wù)，還提供了各種AI開(kāi)發(fā)工具鏈和整套開(kāi)發(fā)環(huán)境。此外，大模型平臺(tái)還支持各類第三方的開(kāi)源和閉源的大模型。自3月27日首次啟動(dòng)內(nèi)測(cè)開(kāi)始，在文心千帆的支撐下，文心一言在兩個(gè)月內(nèi)完成了四次技術(shù)迭代。

在4月25日的一場(chǎng)技術(shù)交流會(huì)上，百度集團(tuán)副總裁侯震宇透露自內(nèi)測(cè)以來(lái)，通過(guò)算法和模型的持續(xù)優(yōu)化，文心一言推理效率提升10倍，推理成本降為原來(lái)十分之一。一個(gè)半月后，文心一言的高性能模式“文心一言- Turbo”作為文心千帆第一階段迭代的結(jié)語(yǔ)成果出現(xiàn)。在一些高頻、核心場(chǎng)景，在滿足同樣客戶需求的情況下，推理服務(wù)的整體性能總共提升了50倍。

多次迭代后，文心千帆的兩個(gè)進(jìn)化方向也已經(jīng)顯現(xiàn)出來(lái)：效果和效率。

在效果上，除了推理性能的大幅提升外，“文心一言- Turbo”支持SFT訓(xùn)練，同時(shí)針對(duì)不同場(chǎng)景和效果提供多種訓(xùn)練方式，Bloom7B（70億參數(shù)）第三方大模型可支持 P-tuning、SFT、Lora等不同訓(xùn)練方式。并且由于企業(yè)對(duì)于大模型再訓(xùn)練的需求以及私有化部署的考慮，文心千帆將開(kāi)放插件協(xié)議，能夠讓第三方企業(yè)基于插件協(xié)議共享插件，通過(guò)插件的方式，把內(nèi)部的數(shù)據(jù)完全接入，同時(shí)實(shí)現(xiàn)更好的大模型效果。

除此之外，文心千帆將會(huì)提供一部分預(yù)制的Prompt模板，同時(shí)支持Prompt模板的增刪改查以及支持參數(shù)插值的調(diào)用模板，支持通過(guò)服務(wù)接口形式調(diào)用Prompt模板，用于獲得更好的推理效果。

與效果并行的則是效率，或者也可以理解成性價(jià)比。

“文心一言- Turbo”推理效率的50倍增長(zhǎng)意味著大模型推理成本的大幅下降，這將是文心一言大模型內(nèi)測(cè)僅一個(gè)月后，大模型推理成本降為原來(lái)1/10之后的又一次提升。并且在數(shù)據(jù)標(biāo)注方面，“文心一言- Turbo”未來(lái)能夠批量生成標(biāo)注數(shù)據(jù)并快速用于后續(xù)訓(xùn)練，相比于此前手動(dòng)的數(shù)據(jù)標(biāo)注形式將會(huì)大大降低數(shù)據(jù)標(biāo)注成本。 

在部署方式上，文心千帆也在逐步增加應(yīng)對(duì)客戶的靈活度。

文心千帆對(duì)外提供“3+3”的交付方式。在公有云服務(wù)側(cè)提供推理（直接調(diào)用大模型的推理能力）、微調(diào)（通過(guò)高質(zhì)量精標(biāo)業(yè)務(wù)數(shù)據(jù)，高效訓(xùn)練出特定行業(yè)的大模型）、托管（將模型發(fā)布在百度智能云，以實(shí)現(xiàn)更加穩(wěn)定高效的運(yùn)行）三種服務(wù)來(lái)降低企業(yè)部署大模型的門檻。

而在頗受關(guān)注的私有化部署側(cè)，文心千帆支持軟件授權(quán)（提供在企業(yè)環(huán)境中運(yùn)行的大模型服務(wù)）、軟硬一體（提供整套大模型服務(wù)及對(duì)應(yīng)的硬件基礎(chǔ)設(shè)施）以及租賃服務(wù)（提供機(jī)器和平臺(tái)的租賃滿足客戶低頻需求）。其中最新加入的租賃服務(wù)意在滿足預(yù)算有限，或?qū)δＰ陀?xùn)練需求更低頻的客戶。

文心千帆大模型平臺(tái)在兩個(gè)月內(nèi)急速的迭代腳步，以及在效果和效率兩端清晰的路線規(guī)劃，并不只是算力的優(yōu)勢(shì)作用，背后體現(xiàn)出更多的是百度AI四層架構(gòu)的整體優(yōu)勢(shì)。

李彥宏  圖源：搜狐

李彥宏曾公開(kāi)表示，百度是全球唯一在芯片、框架、模型和應(yīng)用這四層進(jìn)行全棧布局的人工智能公司。昆侖芯作為百度在底層芯片上的布局，已經(jīng)有兩代產(chǎn)品實(shí)現(xiàn)數(shù)萬(wàn)片的部署，第三代預(yù)計(jì)在明年年初量產(chǎn)；飛槳已經(jīng)是國(guó)內(nèi)綜合市場(chǎng)份額第一的深度學(xué)習(xí)框架；文心大模型家族中除了文心一言，還有包括NLP、CV、跨模態(tài)等通用大模型及11行業(yè)大模型，并與應(yīng)用層的豐富積累互為羽翼卷起數(shù)據(jù)飛輪。這個(gè)完整布局也讓當(dāng)下文心千帆在面對(duì)300家生態(tài)伙伴以及400多個(gè)企業(yè)內(nèi)部場(chǎng)景時(shí)有了靈活進(jìn)化的前提條件。

文心千一言每一次技術(shù)演進(jìn)都是從芯片層到框架層、到模型層以及應(yīng)用層多個(gè)團(tuán)隊(duì)的共同努力。“我們內(nèi)部會(huì)拉一個(gè)工作群，這里有昆侖芯片的人，有飛槳框架團(tuán)隊(duì)的人，有大模型NLP算法策略的人，也有我們大模型平臺(tái)工具鏈的人，還有終端應(yīng)用智能客服的人。每個(gè)月會(huì)設(shè)定共同的目標(biāo)，比如這個(gè)月性能必須提升到什么樣的水平。”李景秋表示。

也如百度集團(tuán)副總裁侯震宇在5月初的一次閉門會(huì)上所說(shuō)，“大模型時(shí)代下，企業(yè)的創(chuàng)新要脫穎而出，不但需要智能的算力、靈活的框架平臺(tái)、豐富的大模型體系以及優(yōu)質(zhì)的應(yīng)用方案，還需要這四者之間端到端的適配與優(yōu)化，這是一個(gè)‘既要、又要、還要’的端到端創(chuàng)新工程。”

而幾乎所有人都能感覺(jué)到，百度在大模型這一仗上，開(kāi)始顯出后勁了。