【全网最简单】5分钟 基于Win10 搭建本地ChatGLM-6B对话大模型

1 硬件环境

处理器：    Intel(R) Core(TM) i5-10600K CPU @ 4.10GHz   4.10 GHz
机器内存： RAM  32.0 GB (31.9 GB 可用)
显卡 显存>12 G（可运行标准版ChatGLM-6B） 或显存>6 G（可运行INT4 量化版） , 本机使用 P40 

2 安装pytorch gpu版

具体安装方法参照本人上一篇文章：全网最简单5分钟Win10安装部署pytorch GPU加速

全网最简单5分钟Win10安装部署pytorch GPU加速(附gpu测试代码）--------- 不需要安装CUDA，CUDNN ！！！-优快云博客

3 pip安装依赖包

a）Conda命令行进入到上一篇文章中安装的pytorch GPU环境，准备安装ChatGLM-6B的依赖包

b）修改requirements.txt，删除其中torch一行（咱们已经安装了pytorch GPU版），然后安装其他依赖包：pip install -r r