一、项目介绍
本项目基于chatglm2及paddlespeech,实现数字人实时对话。
原理框架:
二、搭建流程
2.1 chatglm2
参考地址:https://github.com/THUDM/ChatGLM2-6B
2.1.1 环境安装
下载仓库
git clone https://github.com/THUDM/ChatGLM2-6B
cd ChatGLM2-6B
安装依赖
pip install -r requirements.txt
其中 transformers
库版本推荐为 4.30.2
,torch
推荐使用 2.0 及以上的版本,找出最佳的推理性能。
代码调用
可以通过如下代码调用 ChatGLM2-6B 模型来生成对话:
>>> from transformers import AutoToken