装环境,用了许久。
改了change_script.py中“闻星”的名字,改成“鼎鼎”。
准备好了修改数据。
完成复制模型,修改config文件。
现在准备启动微调,不知道要花多少时间。
启动。现在是11点03分。报错了,没有完成。
报的是xturner语法错,但是语法肯定没有错。所以暂时搞不清,休息。
有同学说是transformers的版本太低,要升到4.47,我试着升到xturner标称的最高版,4.42.4,还是报一样的错。所以,只能升到4.47试一下。这次跑起来了。17:39开始 18:49完成。
按同学说,后面会报错。
开始权重转换。应该也要一点时间。这个倒很快。一分钟不到。
模型合并应该也没有问题,也应该很快。
现在来到了传说中小助手报错时间。果然报错。一样的错。
试了之前llamaindex_demo的环境,也报错。
现在试着把transformers降回去。但是大概率是不行的。果然不行。
最后再试一次,从头搞一个环境。xtuner-env2。且按照新发的优秀作业来。还是不行。
根据以上一系列试验猜测:https://github.com/InternLM/Tutorial.git -b camp4 或 https://github.com/InternLM/xtuner.git 中有一个的环境要求与指导的安装环境有冲突。大概率是后者。这并是不说是xtuner的问题。有可能是有些依赖的版本升了。
不玩了。
只能在文件目录里看一下合并好的模型和报错的页面了。
重新按照新的教程做一次。
重命名了finetune目录。一步步重建。前面都很正常
看看微调能启起来么?
好的。跑起来了,据说要2小时,上次失败的那次用了70分钟。
转换格式和合并模型
成了。