先创建一个30% A100 的开发机
步骤 0. 使用 conda 先构建一个 Python-3.10 的虚拟环境
如果有之前的实验已经克隆过了,要改名或删除,并重新克隆
步骤 1. 安装 XTuner
步骤 2. 验证安装
修改提供的数据
步骤 0. 创建一个新的文件夹用于存储微调数据
步骤 1. 创建修改脚本
步骤 2. 执行脚本
步骤 3. 查看数据
训练启动
步骤 0. 复制模型
步骤 1. 修改 Config
获取官方写好的 config
修改
步骤 2. 启动微调
...
步骤 3. 权重转换
步骤 4. 模型合并
模型 WebUI 对话
cd ~/Tutorial/tools/L1_XTuner_code 修改文件内容
启动应用
保证端口映射
进行对话^ ^