Langchain-chatchat 最新版本0.3.0地址 谢谢你的点赞/关注支持
通过该项目可以轻松实现智能问答,由于chatglm4的开源,该项目最新版本0.3.0与0.2.0版本部署有所不同。
这里 llm 模型使用 glm4-9b-chat
embedding 模型使用 bge-large-zh-v1.5
配置虚拟环境
- 创建虚拟环境
conda create --name chat3 python=3.10.9
- 激活虚拟环境
conda activate chat3
安装项目库
从 0.3.0 版本起,Langchain-Chatchat 提供以 Python 库形式的安装方式
为确保所使用的 Python 库为最新版,建议使用官方 Pypi 源或清华源。
因模型部署框架 Xinference 接入 Langchain-Chatchat 时需要额外安装对应的 Python 依赖库,因此如需搭配 Xinference 框架使用时,建议使用如下安装方式:
pip install "langchain-chatchat[xinference]" -U
模型推理框架并加载模型
从 0.3.0 版本起,Langchain-Chatchat 不再根据用户输入的本地模型路径直接进行模型加载ÿ