┊文章閱讀:次
大語言模型正在與企業(yè)應(yīng)用迅速結(jié)合,并深刻改變企業(yè)的各個產(chǎn)業(yè)環(huán)節(jié)。而大模型訓(xùn)練所使用的數(shù)據(jù)包含了如文檔、圖片、音視頻等各種類型的非結(jié)構(gòu)化數(shù)據(jù),傳統(tǒng)關(guān)系型數(shù)據(jù)庫能力有限。通過將這些非結(jié)構(gòu)化數(shù)據(jù)轉(zhuǎn)換為多維向量,可以結(jié)構(gòu)化地在向量數(shù)據(jù)庫中進(jìn)行管理,實(shí)現(xiàn)高效的數(shù)據(jù)存儲和檢索過程,結(jié)合相似性檢索特性,可以有效地解決大模型在知識時效性低、輸入能力有限、準(zhǔn)確度低等問題。
星環(huán)科技Transwarp Hippo作為一款企業(yè)級云原生分布式向量數(shù)據(jù)庫,自發(fā)布以來受到了眾多用戶的歡迎,幫助用戶實(shí)現(xiàn)向量數(shù)據(jù)的存儲、管理和檢索,加速大模型場景的探索和實(shí)踐。為了進(jìn)一步降低用戶使用向量數(shù)據(jù)庫的門檻和成本,Hippo推出Community Edition社區(qū)版,單機(jī)即可安裝部署,開箱即用,并支持多種接口、向量/標(biāo)量數(shù)據(jù)實(shí)時更新,以及多種向量檢索,幫助用戶低成本、快速地進(jìn)行大模型場景的探索,如構(gòu)建知識庫、智能問答機(jī)器人等。
極簡資源,極速安裝
Hippo社區(qū)版僅需單臺服務(wù)器即可安裝部署,百萬級向量數(shù)據(jù)量推薦配置僅需4核8G。all-in-one全內(nèi)置設(shè)計,做到開箱即用,整個安裝過程最快僅需3分鐘,即可上手體驗(yàn)。
Hippo安裝流程
Hippo社區(qū)版安裝教程
多種接口、多種檢索,簡單易用
Hippo社區(qū)版提供標(biāo)準(zhǔn)的Python、Restful、Java API等接口,可輕松對接各類應(yīng)用和模型,提高應(yīng)用開發(fā)和調(diào)用的效率。同時,提供類SQL接口,滿足入庫等特定場景,大幅降低使用和操作的難度。
Hippo社區(qū)版支持樹索引和位圖索引,支持向量topk搜索、向量/標(biāo)量混合搜索和向量相似度過濾,可滿足多種不同的檢索場景。
簡單3步,快速搭建私有知識庫
基于Hippo社區(qū)版,用戶可快速搭建私有知識庫。
第一步:安裝向量數(shù)據(jù)庫Hippo社區(qū)版、embedding model,并驗(yàn)證;
第二步:知識入庫,將語料文檔通過embedding model轉(zhuǎn)化為向量,存儲到Hippo中;
第三步:調(diào)用大模型,并測試連通性。
基于以上3步,即可開始智能問答。
當(dāng)用戶發(fā)起提問時,運(yùn)轉(zhuǎn)流程如下:
向量轉(zhuǎn)化并檢索,通過embedding model將用戶問題轉(zhuǎn)化為向量,并作為Hippo的查詢條件進(jìn)行查詢;
構(gòu)建prompt,將檢索信息與用戶問題進(jìn)行拼接構(gòu)造prompt,作為大模型的輸入;
大模型回答,大模型使用基礎(chǔ)能力并結(jié)合檢索信息完成對用戶問題的回答。
基于Hippo構(gòu)建知識庫的演示Demo
了解更多信息,請訪問星環(huán)科技向量數(shù)據(jù)庫Transwarp Hippo官網(wǎng)或星環(huán)開發(fā)者社區(qū)。
Copyright @ 2013-2020 中國福建網(wǎng) 版權(quán)所有
聯(lián)系我們
免責(zé)聲明:本站為非營利性網(wǎng)站,部分圖片或文章來源于互聯(lián)網(wǎng)如果無意中對您的權(quán)益構(gòu)成了侵犯,我們深表歉意,請您聯(lián)系,我們立即刪除。