【AI大模型】基于ChatGLM-6b从零开始本地部署语言模型，步骤详细无坑版

1.什么是ChatGLM-6B

ChatGLM-6B 是的一种自然语言处理模型，属于大型生成语言模型系列的一部分。"6B"在这里指的是模型大约拥有60亿个参数，这些参数帮助模型理解和生成语言。ChatGLM-6B 特别设计用于对话任务，能够理解和生成自然、流畅的对话文本。 这个模型通过大量的文本数据进行训练，学习如何预测和生成语言中的下一个词，从而能够参与到各种对话场景中。它可以用于多种应用，比如聊天机器人、自动回复系统和其他需要语言理解的技术中，ChatGLM-6B 的能力取决于它的训练数据和具体的实现方式，通常能够处理复杂的语言任务，提供有用和合理的回复。

2.开源仓库

• ChatGLM的github地址如下

  • https://github.com/THUDM/ChatGLM-6B
  • 有非常详细的文档介绍
  • 

在这里插入图片描述

2.1硬件要求

在这里插入图片描述

3.模型运行环境搭建

• python环境

  • 建议使用Anaconda方便对管理相关的库进行python环境的隔离
  • 版本要求：为了避免一些千奇百怪的兼容错误，版本要求大于3.10

• conda创建虚拟环境

  • conda create -n chatglm-6b python==3.10.4
  • conda activate chatglm-6b
  • 

在这里插入图片描述

<