Langchain-Chatchat大語言模型本地知識庫一鍵整合包
Langchain-Chatchat大語言模型本地知識庫一鍵整合包
???Langchain-Chatchat是一種利用 langchain 思想實現(xiàn)的基于本地知識庫的問答應(yīng)用，目標期望建立一套對中文場景與開源模型支持友好、可離線運行的知識庫問答解決方案。
??Langchain-Chatchat建立了全流程可使用開源模型實現(xiàn)的本地知識庫問答應(yīng)用，使用基于 Streamlit 的 WebUI 進行操作。
?? Langchain-Chatchat實現(xiàn)原理如下圖所示，過程包括加載文件 -> 讀取文本 -> 文本分割 -> 文本向量化 -> 問句向量化 -> 在文本向量中匹配出與問句向量最相似的 top k個 -> 匹配出的文本作為上下文和問題一起添加到 prompt中 -> 提交給 LLM生成回答。
學(xué)術(shù)Fun將上述工具制作成一鍵啟動包，內(nèi)置chatglm3模型，點擊即可使用，避免大家配置Python環(huán)境出現(xiàn)各種問題，下載地址：?https://xueshu.fun/3278/，在此頁面右側(cè)區(qū)域點擊下載！
注意電腦配置如下：
windows 10/11
8G顯存以上英偉達顯卡
下載使用教程
下載壓縮包 下載地址：?https://xueshu.fun/3278/，
在此頁面右側(cè)區(qū)域點擊下載！解壓，解壓后，最好路徑和我的保持一致，
D:\AI\Langchain-ChatGLM,如下圖所示，雙擊啟動.exe文件運行
啟動過程中，會聯(lián)網(wǎng)更新streamlit包，包很小只有10幾兆，更新streamlit包是防止有的同學(xué)沒有解壓到和我本地一致的目錄，會出現(xiàn)streamlit命令找不到的錯誤，啟動完成后瀏覽器會自動打開使用界面，如下所示，本地訪問地127.0.0.1:8501
本地知識庫使用
按照下圖步驟，建立本地知識庫
點擊知識庫管理
新建知識庫
新建知識庫名稱，不支持中文
填寫知識庫簡介
點擊新建
上傳知識庫文件，支持格式如圖中所示
點擊添加文件到知識庫
使用知識庫問答
選擇對話
選擇知識庫問題對話模式
選擇剛剛建立的知識庫名稱
輸入內(nèi)容進行知識庫對話，對話內(nèi)容會從上傳的知識庫文件中索引
聯(lián)網(wǎng)問答功能
還支持聯(lián)網(wǎng)在線搜索問答，使用方式見下圖：
