手把手教你搭建自己本地的ChatGLM

前言

如果能够本地自己搭建一个ChatGPT的话，训练一个属于自己知识库体系的人工智能AI对话系统，那么能够高效的处理应对所属领域的专业知识，甚至加入职业思维的意识，训练出能够结合行业领域知识高效产出的AI。这必定是十分高效的生产力工具，且本地部署能够保护个人数据隐私，能够内网搭建办公使用也十分的方便。

而对于ChatGLM来说最大的优点就是本地能快速部署且需要资源较比与ChatGPT相当低，还要什么自行车，够用就好。甚至能够在一些性能较高的服务器单点部署，INT4 量化级别下最低只需 6GB 显存。而且我们根本不需要那么宽泛的知识面，只需要垂直一个知识领域深度就足够应对较多业务场景，故ChatGLM确实是较好的二次开发基础工具。

那么不继续发表意见了，本地部署ChatGLM还是会遇到较多问题，建议各位先弄清楚本地开发环境以及电脑配置再根据我给出的组件兼容表对照，不同的配置和环境需要采用不同的安装策略。当然我也只有一台电脑部署很多情况没遇到也不知道如何处理，若是大家根据我的文章部署遇到困难请在评论区或者私信告知我，谢谢各位的支持。

部署依赖

1.硬件需求

这是ChatGLM的开源项目:https://github.com/Fanstuck/ChatGLM-6B。里面可以看到硬件需求，这是硬性要求如果不满足肯定是部署不了的，只能升级电脑配置了：