人工智能_大模型009_CPU微调ChatGLM大模型_有监督学习_使用P-Tuning v2_CPU不支持半精度计算_GPU才支持_无法在CPU下微调_微调_003---人工智能工作笔记0144

添柴程序猿

已于 2024-02-29 15:48:51 修改

阅读量295

点赞数 5

CC 4.0 BY-SA版权

分类专栏：深度/机器学习&爬虫文章标签：人工智能 ChatGLM人工智能模型 CPU不支持微调 CPU不支持半精度计算 CPU微调大模型

于 2024-02-26 15:26:27 首次发布

本文为博主原创文章，未经博主添柴程序猿允许不得转载违者追究法律责任。

本文链接：https://blog.youkuaiyun.com/lidew521/article/details/136076331

深度/机器学习&爬虫专栏收录该内容

168 篇文章 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

本文记录了在CPU上微调ChatGLM人工智能模型的尝试，遇到的问题及解决方法。首先确认安装环境，安装streamlit和streamlit_chat库。微调过程中遇到模型未安装成功的问题，通过更换源最终解决。接着，调整模型参数，使用非量化模型，并创建自定义训练和验证数据集以减少训练时间。在CPU上执行训练时，遇到不支持半精度计算的错误，指出GPU更适合大模型的微调。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

002节微调的时候,没有成功,继续,不知道是不是因为CPU的原因,没有微调成功.

首先:看几个网址,微调相关的,有很大帮助:

https://spaces.ac.cn/?login=from_csdn


https://ascend.youkuaiyun.com/6583e97adafaf23eeaee2f0f.html?dp_token=eyJ0eXAiOiJKV1QiLCJhbGciOiJIUzI1NiJ9.eyJpZCI6OTQxLCJleHAiOjE3MDkyODI2MzUsImlhdCI6MTcwODY3NzgzNSwidXNlcm5hbWUiOiJsaWRldzUyMSJ9.rqCgc4_MfpNwswTtd1SJlB3BQ0qfFn-kNkCM4_7uvqw#_109?login=from_csdn


https://devpress.youkuaiyun.com/user/q116975174


https://github.com/yuanzhoulvpi2017/zero_nlp?login=from_csdn

https://github.com/yuanzhoulvpi2017/zero_nlp/blob/main/simple_thu_chatglm6b/code02_%E8%AE%AD%E7%BB%83%E6%A8%A1%E5%9E%8B%E5%85%A8%E9%83%A8%E6%B5%81%E7%A8%8B.ipynb