从零开始部署本地大模型（Langchain-chatchat）

配置环境

Anaconda安装

下载地址：Free Download | Anaconda

cuda安装

通过命令行查看GPU信息：

nvidia-smi

可以看到，我的计算机支持的cuda最高版本是12.4

因此就去下载对应版本的cuda：CUDA Toolkit Archive | NVIDIA Developer

配置虚拟环境

这里使用Anaconda安装虚拟环境，python的版本是3.11

conda create -n chat python=3.11

拉取项目

然后，使用git拉取项目：

git clone https://github.com/chatchat-space/Langchain-Chatchat.git

接下来安装全部依赖：

# 进入目录
cd Langchain-Chatchat
# 安装全部依赖
pip install -r requirements.txt 
pip install -r requirements_api.txt
pip install