只用500行代碼搭出來的AI搜索引擎，登頂GitHub趨勢榜。

作者：賈揚清的LeptonAI團隊。

Lepton Search耗時一個周末打造，僅作為Demo演示而不是正式產(chǎn)品，只為向開發(fā)者展示“天下沒有難構(gòu)建的AI應(yīng)用”。

△能理解中文但用英文回答

賈揚清事后感慨到：

這件事并沒有那么復(fù)雜——我們剛開始時確實以為會更難。

另外，圍繞這個Demo還發(fā)生了一些爭議。

AI搜索引擎Perplexity創(chuàng)始人認(rèn)為其參考了自己產(chǎn)品的UI界面，轉(zhuǎn)發(fā)評論了一番。

賈揚清也做出回應(yīng)，稱無意進(jìn)入這個市場，更多的是Demo展示以及宣傳自家LeptonAI云服務(wù)，并且一開始就準(zhǔn)備開源。

總之，兩位大佬“友好”地一番交鋒之后，Lepton Search修好bug后立即開源并且迅速獲得社區(qū)認(rèn)可。

目前，已有偏學(xué)術(shù)的開源AI搜索引擎SciPhi使用賈揚清的代碼完成升級。

500行代碼的AI搜索引擎

要注意，AI搜索引擎整體上依然是一個復(fù)雜的項目。

Lepton Search之所以500行代碼就能實現(xiàn)，正如賈揚清想要展示的，是因為今天的應(yīng)用開發(fā)已經(jīng)高度模塊化：

-大模型，調(diào)用了在自家云上部署的開源Mixtral-8x7b模型。

-搜索引擎，目前用了必應(yīng)搜索的API。

-數(shù)據(jù)存儲，用自家Lepton KV作為無服務(wù)器存儲。

這500行代碼其實只做到以下幾點，就完成一個產(chǎn)品的雛形了：

對大模型和搜索引擎的接口支持

前端UI界面

可緩存和可分享的搜索結(jié)果

除此之外，賈揚清還分享了開發(fā)過程中學(xué)到的一些經(jīng)驗：

-搜索質(zhì)量確實非常重要，好的結(jié)果片段才能產(chǎn)生好的摘要。

-一點AI幻覺其實有助于填補片段中未涉及的“常識”。

-開源模型在文本摘要任務(wù)上已經(jīng)做的非常好。

在后續(xù)與網(wǎng)友討論過程中，賈揚清還認(rèn)為“AI對話式搜索不會取代傳統(tǒng)搜索”，還需要依賴傳統(tǒng)搜索引擎的結(jié)果。

事實上，AI搜索目前正是行業(yè)的一個大熱門方向。

代表公司正是前面提到的Perplexity，剛剛拿到7360萬美元的A輪融資，估值超過5億美元。

投資者中有英偉達(dá)、亞馬遜，甚至谷歌AI大佬Jeff Dean和前YouTube CEO也不避嫌，以個人名義參與投資。

并且Perplexity已和部分瀏覽器廠商如Arc展開合作，成為默認(rèn)搜索引擎的選項之一。

△Perplexity網(wǎng)頁版

更小一些的創(chuàng)業(yè)項目方面，比如面向程序員的devv_，面向?qū)W術(shù)的Consensus也各自受到垂直用戶群體的認(rèn)可。

國內(nèi)大廠也是AI搜索的積極參與者，百度除了以文心一言插件的形式集成了AI搜索之外，還推出了獨立的簡單搜索App試水。

360也推出360AI搜索獨立APP版，安卓版剛剛上線還是熱乎的，連評分?jǐn)?shù)量都還沒夠展示門檻。

昆侖萬維的天工AI搜索則已推出了將近半年，其首頁推薦問題通常緊追最新熱點，很方便吃瓜。

AI搜索類產(chǎn)品在設(shè)計上大致分為三大類。

谷歌和百度在傳統(tǒng)搜索的頁面頂部，以卡片形式展示AI生成結(jié)果。

必應(yīng)、百度文心一言更偏重對話，搜索結(jié)果由AI總結(jié)提煉后呈現(xiàn)在多輪對話中。

其他產(chǎn)品大多遵循Perplexity為代表的新范式：

-搜索結(jié)果頁面分為“參考鏈接-AI回答-相關(guān)追問”幾個模塊，并可多輪提問。

-搜索結(jié)果有歷史記錄，且可以對外分享。

-Copilot增強模式，AI理解問題后反向提問，引導(dǎo)用戶補充搜索條件。

-個性化提示詞，用于調(diào)整AI回答的風(fēng)格以及格式。

正如Perplexity的CEO所說，他們的產(chǎn)品大獲成功后，其模式已成為事實上的行業(yè)標(biāo)準(zhǔn)。

除了宏觀的界面、功能之外，更細(xì)節(jié)之處如“付費功能的免費使用次數(shù)”都被一些后來者學(xué)走。

參考鏈接：

[1]https://github.com/leptonai/search_with_lepton

[2]https://twitter.com/jiayq/status/1751633905890038232