超级会员免费看
本文档记录了在CPU环境下安装并运行ChatGLM-6B大模型的过程，包括使用命令行工具启动模型和通过API调用接口。在调用API时遇到了响应速度慢和JSON解析错误的问题，经过一段时间等待，最终成功获取到结果，但性能受到CPU限制，未使用GPU导致效果不佳。
然后我们再进入
/data/module/ChatGLM-6B-main文件夹
然后我们去启动,命令行工具
python3 cli_demo.py 可以看到也是可以用了.
正常可以用了.
然后主要来看,如何使用api来调用呢,这样才可以,做自己的界面
订阅专栏 解锁全文
扫一扫
评论
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
然后我们再进入
/data/module/ChatGLM-6B-main文件夹
然后我们去启动,命令行工具
python3 cli_demo.py 可以看到也是可以用了.
正常可以用了.
然后主要来看,如何使用api来调用呢,这样才可以,做自己的界面
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
