基于Langchain-Chatchat + ChatGLM 本地部署知识库

一、相关环境

参考链接: Github:https://github.com/chatchat-space/Langchain-Chatchat

Langchain-chatchat版本：v0.3.1

安装环境：Ubuntu：22.04，CUDA：12.1

二、搭建过程

2.1 环境配置

2.1.1 创建chatchat虚拟环境

• 创建chatcaht虚拟环境

conda create -n chat python=3.11 -y
conda activate chat

• 克隆仓库

git clone https://github.com/chatchat-space/Langchain-Chatchat.git
#进入目录
cd Langchain-Chatchat

• 安装依赖

pip install "langchain-chatchat[xinference]" -U

使用模型推理框架并加载模型，这里用到的是Xinference。

【注意】为避免依赖冲突，请将 Langchain-Chatchat 和模型部署框架如 Xinference 等放在不同的 Pytho