ChatGML-6B大模型Windows部署（可CPU运行 保姆级教程）

🚀 写在最前：这篇文章将学习如何运行ChatGML-6B大模型。
🚀：点个关注吧😀，让我们一起探索计算机的奥秘！

一、ChatGML-6B大模型介绍

ChatGML-6B 是一个大型语言模型,被训练来预测人类语言。它是基于 GPT 模型的一种改进版本，拥有 6.3 亿个参数，是当前最大规模的中文语言模型之一。ChatGML-6B 模型由清华大学 KEG 实验室和智谱AI共同训练,拥有强大的语言理解和生成能力。

二、环境配置

①ChatGML-6B大模型的下载

下载网址：/THUDM/ChatGLM-6B.

点击Dwonload ZIP，下载这个模型，并解压。

②TDM-GCC安装

CPU部署ChatGLM-6B要涉及到一个kernel的编译问题。这样CPU部署的话就需要安装C/C++的编译环境。 这里推荐安装TDM-GCC，网址:/tdm-gcc/.

双击下载好的.exe文件，开始安装tdm-gcc。点击下面的create

点击next

选择你想安装的路径，点击next

首先必须勾选openMP,先把gcc打开，然后往下翻，勾选openMP，同样的还得勾选gdb32 (Stable Release: 10.2-tdm-1)

选择好后，点击Install等待一会它的安装，安装完成后就会显示如下界面。

最后点击finish就行。