聯(lián)發(fā)科和vivo官宣合作，率先實(shí)現(xiàn)10億和70億AI大語(yǔ)言模型和10億AI視覺大模型在手機(jī)端側(cè)落地，70億是目前手機(jī)上落地的最高參數(shù)規(guī)模AI大語(yǔ)言模型。

這都得益于聯(lián)發(fā)科下一代旗艦級(jí)AI處理器APU和AI開發(fā)平臺(tái)NeuroPilot的強(qiáng)力加持。這是聯(lián)發(fā)科天璣9300在CPU和GPU方面行業(yè)領(lǐng)先后，又一次重拳出擊，知名博主@數(shù)碼閑聊站稱之為“三殺”！

生成式AI應(yīng)用是指利用人工智能技術(shù)生成各種內(nèi)容，如文本、圖像、音頻、視頻等，具有極高的創(chuàng)新性和價(jià)值。

目前生成式AI應(yīng)用主要依賴于云端的大模型，如Meta的Llama 2等，這些模型具有數(shù)十億甚至數(shù)千億的參數(shù)量，需要大量的計(jì)算資源和網(wǎng)絡(luò)帶寬。而在手機(jī)端側(cè)實(shí)現(xiàn)生成式AI應(yīng)用，則需要更高的算力效率和更低的功耗。

聯(lián)發(fā)科天璣9300正是以強(qiáng)大的AI算力支持手機(jī)端的生成式AI應(yīng)用，預(yù)計(jì)可以在手機(jī)上實(shí)現(xiàn)多種創(chuàng)新功能，如智能寫作、智能翻譯、智能攝影、智能美化等。由此可見，聯(lián)發(fā)科天璣9300的下一代旗艦級(jí)AI處理器APU值得期待。

除了APU之外，聯(lián)發(fā)科還提供了開發(fā)平臺(tái)NeuroPilot，它是一個(gè)全棧式的解決方案，NeuroPilot是聯(lián)發(fā)科為開發(fā)者提供的基于本地端側(cè)的AI運(yùn)算解決方案，它為內(nèi)建CPU、GPU和APU（獨(dú)立AI處理器）等異構(gòu)運(yùn)算單元的聯(lián)發(fā)科芯片提供完整且強(qiáng)大的軟件解決方案。

AI開發(fā)者可以使用主流的TensorFlow、Pytorch、TF Lite、Caffe、Caffe2以及其他自定義的第三方通用AI框架來構(gòu)建神經(jīng)網(wǎng)絡(luò)模型，并接入到NeuroPilot系統(tǒng)，充分發(fā)揮聯(lián)發(fā)科AI系統(tǒng)的強(qiáng)勁算力，顯著提高模型運(yùn)行在設(shè)備上的效率，并降低功耗和內(nèi)存消耗。

聯(lián)發(fā)科與Meta、百度等廠商的大模型合作適配，又與vivo和OPPO等手機(jī)廠商合作終端側(cè)的落地，多方強(qiáng)強(qiáng)聯(lián)手，已經(jīng)讓生成式AI在手機(jī)上成為現(xiàn)實(shí)。

希望一鍵生成周報(bào)、生成會(huì)議總結(jié)，甚至一鍵生成創(chuàng)意圖片等功能可以早日在手機(jī)上普及，端側(cè)運(yùn)行也會(huì)帶來更高的效率和安全性，這些功能都有望在天璣9300上落地，十分期待了！