快捷導(dǎo)航

golang cobra使用chatgpt qdrant實(shí)現(xiàn)ai知識(shí)庫(kù)

更新時(shí)間：2023年09月24日 10:11:27 作者：莫大

這篇文章主要為大家介紹了golang cobra使用chatgpt qdrant實(shí)現(xiàn)ai知識(shí)庫(kù),有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪

kbai 知識(shí)庫(kù)的導(dǎo)入和搜索

倉(cāng)庫(kù)地址:https://github.com/webws/embedding-knowledge-base

kabi 是使用 golang 基于 openai chatgpt embedding + qdrant 實(shí)現(xiàn)知識(shí)庫(kù)的導(dǎo)入和問(wèn)答

? kabi -h
a local knowledge base, based on chatgpt and qdrant
usage:
  kbai [flags]
  kbai [command]
available commands:
  completion  generate the autocompletion script for the specified shell
  help        help about any command
  import      import data to vector database
  search      ask the knowledge base example: kbai ask --msg 'first, the chicken or the egg'
flags:
      --apikey string       openai apikey:default from env apikey
      --collection string   qdrant collection name default: kubernetes (default "kubernetes")
  -h, --help                help for kbai
      --proxy string        http client proxy default:socks5://127.0.0.1:1080  (default "socks5://127.0.0.1:1080")
      --qdrant string       qdrant address default: 127.0.0.1:6334 (default "127.0.0.1:6334")
      --vectorsize uint     qdrant vector size default: 1536 (default 1536)
use "kbai [command] --help" for more information about a command.

啟動(dòng)向量數(shù)據(jù)庫(kù)

qdrant 是一個(gè)開(kāi)源的向量搜索引擎,支持多種向量距離計(jì)算方式

docker 運(yùn)行 qdrant

docker run --rm -p 6334:6334 qdrant/qdrant

kbai庫(kù)導(dǎo)入數(shù)據(jù)到知識(shí)庫(kù)

clone 源碼運(yùn)行(后續(xù)提供二進(jìn)制文件)

git clone https://github.com/webws/embedding-knowledge-base.git
cd ./embedding-knowledge-base

這里使用的測(cè)試數(shù)據(jù)是k8s相關(guān)的知識(shí)庫(kù),真實(shí)數(shù)據(jù)需自己準(zhǔn)備

1.設(shè)置 openai apikey

export apikey=xxx

2.導(dǎo)入知識(shí)庫(kù)(源碼運(yùn)行)

go run ./ import --datafile ./example/data.json

data.json 數(shù)據(jù)格式如下,為真實(shí)數(shù)據(jù)需自己準(zhǔn)備

[
    {
        "questions": "這是問(wèn)題",
        "answers": "這是答案"
    },
]

說(shuō)明:

默認(rèn)的代理是 "socks5://127.0.0.1:1080" 自定義可使用 --proxy 指定

kbai 搜索數(shù)據(jù)

搜索問(wèn)題(源碼執(zhí)行)

go run ./ search --msg "網(wǎng)關(guān)是什么"

回答

the answer to the knowledge base:
在kubernetes中，網(wǎng)關(guān)通常指的是ingress（入口）資源對(duì)象。ingress是一種kubernetes api對(duì)象，用于配置和管理集群中的http和https流量入口。它充當(dāng)了從集群外部訪問(wèn)集群內(nèi)部服務(wù)的入口點(diǎn)

results of chatgpt answers with reference answers:
，同時(shí)提供負(fù)載均衡、ssl/tls終止和基于域名的路由等功能。ingress資源對(duì)象定義了一組規(guī)則，這些規(guī)則指定了通過(guò)特定http路徑或主機(jī)名將請(qǐng)求路由到后端服務(wù)的方式?？梢允褂貌煌膇ngress控制器實(shí)現(xiàn)這些規(guī)則，如nginx、traefik等。這樣就可以在集群中創(chuàng)建多個(gè)ingress資源對(duì)象來(lái)管理不同的流量入口。

only chatgpt answers:
網(wǎng)關(guān)是一種網(wǎng)絡(luò)設(shè)備，用于連接兩個(gè)或多個(gè)不同類型的網(wǎng)絡(luò)，以便實(shí)現(xiàn)數(shù)據(jù)以不同協(xié)議進(jìn)行傳遞和轉(zhuǎn)換。網(wǎng)關(guān)起到了連接不同網(wǎng)絡(luò)之間的橋梁作用，將兩個(gè)或多個(gè)網(wǎng)絡(luò)互相連接起來(lái)，并負(fù)責(zé)數(shù)據(jù)的路由和轉(zhuǎn)發(fā)。網(wǎng)關(guān)可以是硬件設(shè)備，如路由器，也可以是軟件程序，如互聯(lián)網(wǎng)網(wǎng)關(guān)。網(wǎng)關(guān)通常用于連接本地網(wǎng)絡(luò)與互聯(lián)網(wǎng)，使得局域網(wǎng)中的計(jì)算機(jī)能夠訪問(wèn)互聯(lián)網(wǎng)上的資源。除了連接不同網(wǎng)絡(luò)的功能，網(wǎng)關(guān)還可以實(shí)現(xiàn)安全性、負(fù)載均衡、數(shù)據(jù)過(guò)濾等功能。

第一個(gè)是知識(shí)庫(kù)的回答(the answer to the knowledge base):
第二個(gè) 是結(jié)合知識(shí)庫(kù) chatgpt 的回答(results of chatgpt answers with reference answers)
第三個(gè) 僅chatgpt 回答

可以看出直接問(wèn)chatgpt,得到的答案可能跟k8s無(wú)關(guān),結(jié)合k8s本地知識(shí)庫(kù),可以讓回答偏向數(shù)據(jù)集設(shè)定的主題

如果直接搜索與知識(shí)庫(kù)無(wú)關(guān)或違規(guī)問(wèn)題,將搜索不到任務(wù)數(shù)據(jù)

go run ./ search --msg "蘋(píng)果不洗能吃嗎"
rearch term violation or exceeding category

kabi golang 實(shí)現(xiàn) ai知識(shí)庫(kù)導(dǎo)入原理

導(dǎo)入

接入 qdrant 和 openai cleint
解釋原始知識(shí)庫(kù)數(shù)據(jù) 為 q(問(wèn)) a(答)
將問(wèn)題經(jīng)過(guò) openai embedding 得到向量+答案存入 qdrant

以下是 kbai go 導(dǎo)入邏輯代碼

qdrantclient := qdrant.newqdrantclient(configflags.qdrant, configflags.collection, configflags.vectorsize)
            defer qdrantclient.close()
            aiclient, err := ai.newaiclient(configflags.proxy, configflags.apikey)
            if err != nil {
                return err
            }
            if err = qdrantclient.createcollection(configflags.collection, configflags.vectorsize); err != nil {
                return err
            }
            qas, err := converttoqas(datafile)
            if err != nil {
                return err
            }
            points := []*pb.pointstruct{}
            logger.infow("import", "data", qas)
            qpslenth := len(qas)
            for i, qa := range qas {
                embedding, err := aiclient.simplegetvec(qa.questions)
                if err != nil {
                    logger.errorw("simplegetvec", "err", err, "question", qa.questions, "index", i, "total", qpslenth)
                    return err
                }
                point := buildpoint(qa.questions, qa.answers, embedding)
                points = append(points, point)
            }

搜索

問(wèn)題搜索,通過(guò) openai embedding 得到向量
根據(jù)向量從 qdrant 中搜索相似度大于0.8的數(shù)據(jù)
根據(jù) qdrant 里的知識(shí)庫(kù)答案(參考答案) + 從 chatgpt 提問(wèn) 得到擴(kuò)展知識(shí)

以下是 kbai go 搜索代碼邏輯

qdrantclient := qdrant.newqdrantclient(configflags.qdrant, configflags.collection, configflags.vectorsize)
            defer qdrantclient.close()
            aiclient, err := ai.newaiclient(configflags.proxy, configflags.apikey)
            if err != nil {
                return err
            }
            vector, err := aiclient.simplegetvec(msg)
            if err != nil {
                return err
            }
            points, err := qdrantclient.search(vector)
            if err != nil {
                logger.errorw("qdrant search fail", "err", err)
                return err
            }
            if len(points) == 0 {
                fmt.println("rearch term violation or exceeding category")
                return nil
                // return errors.new("rearch term violation or exceeding category")
            }
            // score less than 0.8, rearch term violation or exceeding category
            if points[0].score < 0.8 {
                fmt.println("rearch term violation or exceeding category")
                return nil
                // return errors.new("rearch term violation or exceeding category")
            }

以上就是golang cobra使用chatgpt qdrant實(shí)現(xiàn)ai知識(shí)庫(kù)的詳細(xì)內(nèi)容，更多關(guān)于golang cobra ai知識(shí)庫(kù)的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！

您可能感興趣的文章: