由于直接在每次迭代时增加条件如:
,模型容易逐渐忽略条件信息。
1.Classifier guidance
1)推导:
根据贝叶斯定理得到:

增加权重后:

2)直观理解:
(1)权重
当时,条件扩散模型忽略了 条件的存在。
随着的增加,给定条件,模型更容易产生在任意噪声程度下,会重复生成的样本。
(2)训练
模型需要额外训练分类器,因为模型需要能够处理任意噪声的输入。
2.classifier-free guidance

1)权重
:直接学习条件分布,忽略guidance。
:优先学习条件分布,并且向着远离无条件分布的方向改进。即减少没有使用条件信息的样本的生成。
2)训练
无条件和有条件模型能同时被训练。只需在无条件信息时,用零替换条件信息。
文章探讨了在模型迭代过程中如何处理条件信息,包括Classifierguidance和classifier-freeguidance两种方法。Classifierguidance通过调整权重防止模型忽略条件,而classifier-freeguidance则直接学习条件分布。训练过程中,Classifierguidance需要额外训练分类器,而classifier-freeguidance允许无条件和有条件模型并行训练。
1001





