Langchain-Chatchat 本地源代码部署 二次开发

纯纯记录

拉取代码

git clone --depth 1 https://github.com/chatchat-space/Langchain-Chatchat.git

初始化开发环境

Langchain-Chatchat 自 0.3.0 版本起,为方便支持用户使用 pip 方式安装部署,以及为避免环境中依赖包版本冲突等问题, 在源代码/开发部署中不再继续使用 requirements.txt 管理项目依赖库,转为使用 Poetry 进行环境管理。

安装 Poetry

在安装 Poetry 之前,如果您使用 Conda,请创建并激活一个新的 Conda 环境,例如使用 conda create -n chatchat python=3.9 创建一个新的 Conda 环境。

pip install poetry
#安装完按成后执行下面命令,使 Poetry 使用 virtualenv python environment
poetry config virtualenvs.prefer-active-python true

安装源代码/开发部署所需依赖库

进入主项目目录,并安装 Langchain-Chatchat 依赖

cd  Langchain-Chatchat/libs/chatchat-server/
poetry install -E xinference

image.png
大概执行5分钟左右安装完成
image.png

更新开发部署环境依赖库

当开发环境中所需的依赖库发生变化时,一般按照更新主项目目录(Langchain-Chatchat/libs/chatchat-server/)下的 pyproject.toml 再进行 poetry update 的顺序执行。(这一步暂时没用到,后续二开再用)

设置源代码根目录

如果您在开发时所使用的 IDE 需要指定项目源代码根目录,请将主项目目录(Langchain-Chatchat/libs/chatchat-server/)设置为源代码根目录。

image.png

设置数据目录

image.png

cd Langchain-Chatchat/libs/chatchat-server/chatchat
export CHATCHAT_ROOT=
### 部署 Langchain-Chatchat 为了在本地成功部署 Langchain-Chatchat,需遵循一系列特定指令来设置开发环境并运行应用程序。 创建名为 `chatchat` 的 Conda 虚拟环境,并指定 Python 版本为 3.11[^1]: ```bash conda create --name chatchat python=3.11 ``` 激活此虚拟环境后,在目标目录下克隆 LangChain-chatchat GitHub 仓库: ```bash conda activate chatchat cd /opt/module/ git clone https://github.com/chatchat-space/Langchain-Chatchat.git ``` 随后,利用 `pip` 安装最新版本的 langchain-chatchat 及其依赖项,包括支持 Xinference 功能所需的额外组件[^3]: ```bash pip install -U "langchain-chatchat[xinference]" ``` 值得注意的是,Langchain-Chatchat 是一个基于大型语言模型(如 ChatGLM)以及应用框架构建而成的支持 RAG 和代理功能的应用程序项目,具备开源特性且能够离线部署[^4]。 对于某些情况下可能出现的问题,比如由于 CUDA 不兼容引发错误的情况,建议确认所使用的 CUDA 版本满足最低要求——通常推荐使用较新版本以获得更好的稳定性和支持。如果遇到与 GPU 加速有关的具体技术难题,则应确保已正确配置 CUDA 环境变量,并考虑升级至更高版本的 CUDA 来解决问题[^5]。 #### 注意事项 - **Python 版本**:确保选择了合适的 Python 解释器版本。 - **CUDA 兼容性**:验证硬件加速库(例如 CUDA)是否与当前系统匹配。 - **依赖管理**:始终从官方源获取软件包,保持依赖关系表的一致性和安全性。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值