该文指导如何安装Python3.10.7，切换清华源更新pip，然后升级pip。接着详细说明了ChatGLM-6B模型的部署步骤，包括放置训练数据和运行要求。在遇到问题时，建议检查CUDA版本，从NVIDIA官网下载对应工具包和PyTorch，以及安装CUDNN。如果仍然遇到问题，文中提供了卸载torch后再重新安装的解决方法。
1、安装python-3.10.7-win64 （注意版本）
2、pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple （换清华源）
3、python -m pip install --upgrade pip （升级pip）
4、下载解压ChatGLM-6B-main后，并把下载的训练数据放到chatglm-6b目录下以后，运行：pip install -r requirements.txt
5、双击【webui 双击运行】运行，选择对应的GPU或CPU （或运行python web_demo.py）
6、再打开的浏览器中运行测试。
如果运行出错，则要这样做：
首先检查自己的CUDA版本，然后到：CUDA Toolkit Archive | NVIDIA Developer 下载对应的CUDA tools并安装，然后去：Start Locally | PyTorch 安装对应PyTorch：
上图是我安装11.7版本的PyTorch的选项。
还要下载cudnn，访问并注册下面的链接：https://developer.nvidia.com/rdp/cudnn-download
选定合适的版本下载，下载完毕解压缩，覆盖复制：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7
如果还不行，就卸载掉torch：
pip uninstall torch然后再按照上面的方法安装torch！
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
