LORA学习笔记3——训练参数

训练步长

Step(步):模型训练时ai模型会根据标注生成一个图片,并与学习图片进行对比,通过对比的结果调整嵌入向量。这样的一个流程就被称为“一步”。

如果一个训练集中有50张图片,每张图片设定为要训练10次,所以训练完这一组数据集需要50*10=500步。

Epoch(轮):一个训练集里面的全部图片按照规定的训练次数训练完一次,被称之为训练完“一轮”。参考刚才的例子,500步就是该训练集的一轮所需要的步数。

max_train_epochs(最大训练轮数):通常我们使用这个概念来控制训练一个模型的总步数。模型训练的总步数=max_train_epochs*Epoch。比如刚才的例子中,一轮是500步,假设我们训练的最大轮数是10,那么训练的总步数就是500*10=5000步。

train_batch_size(训练批次大小):模型训练可以一次学习多个图片,如果将这个参数设置为8,那么训练时ai会一次训练8张图片,缩短训练所需要的时间。

学习率

学习率可以理解为ai学习时的强度。学习率过高会导致过拟合,学习率过低会导致欠拟合。

 过拟合:训练出的模型过于匹配训练数据,导致在新数据集中无法生成较好的新结果。在ai画图中的表现就是生成的图片过于和训练集中的图片相似,无法生成差异化的内容。

欠拟合:训练出的模型过于不匹配训练数据,导致新数

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值