人工智能_大模型016_租用GPU_使用P-tuning微调ChatGLM大模型_模型评估_以及微调后模型测试_ChatGLM大模型003---人工智能工作笔记0152

  上一节我们完成了大模型的微调,使用我们自己造的数据,一共20条,数据,微调的时候用了1个小时48分钟,然后微调以后,train.sh执行以后,生成了微调后的模型,然后我们再来看,如何,评估这个模型.

首先我们进入到算法库中的ptuning微调的目录,

/root/autodl-tmp/module/ChatGLM-6B-main/ptuning

 到上面这个文件夹中,然后去编辑

vim evaluate.sh文件

可以看到这里,评估模型需要修改上面的几个参数,这里:

--model_name_or_path /root/autodl-tmp/module/chatglm-6b 这个是模型目录,要根据自己情况配置

--ptuning_checkpoint /root/autodl-tmp/module/output/$CHECKPOINT/checkpoint-$STEP   这个是我们微调以后,然后,获取的微调以后的模型的路径,可以看到,图上,就是在这