lp646494766164的博客

原创 Kohya 训练器 Stable Diffusion工作流中训练LoRA模型方法

学习训练集图片的强度。也就是说，训练集的调性会影响使用LoRA出图时的调性。Alpha和Rank的比值等于我们使用LORA时的“减弱权重”程度，Alpha一般不超过Rank。一步为根据训练标注生成图片，并把它与训练集里的某一步图片进行对比，把他们的差异微调嵌入向量。但在Simo发掘出了最早的LORA食用方法后，有许多开发者在这个基础上对算法不断做改进，开发出了许多的“增强版”的LORA。LoHa: 使用哈达玛积对权重重新参数化，适合较简单的概念或多概念训练,可以追求更好的泛化能力对了，花的时间更长。