本文介绍了算法专家的课程，涵盖微调技术如知识库建立、微调方法（包括指令微调和增量微调）、LoRA原理以及Xtuner提供的微调框架，讨论了GPU和显存使用优化。课程目标是教授AI领域的前沿知识和资源管理策略。
本次讲师是一位从事算法工作的优秀贡献者。
一起来看看吧！
本次课程内容主要有：
我将在此整理前三节的内容，第四节放在作业章节进行讲解：
同第三节的建立数据库中所提及到的，如果通用大模型在专用领域表现能力不强，如何改进——
建立知识库或者微调，本节课进行的则是微调。
构建角色和对话模板，这项工作由Xtuner做过了，可以借此一键完成。
在预测阶段，这个不同角色模型的对话模板，两种模型的格式有所区别：
指令微调采用一问一答的方式进行：
大模型实战营Day4 XTuner 大模型单卡低成本微调实战
于 2024-01-13 20:28:47 首次发布
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
