由于直接在每次迭代时增加条件如:,模型容易逐渐忽略条件信息。
1.Classifier guidance
1)推导:
根据贝叶斯定理得到:
增加权重后:
2)直观理解:
(1)权重
当时,条件扩散模型忽略了 条件的存在。
随着的增加,给定条件,模型更容易产生在任意噪声程度下,会重复生成的样本。
(2)训练
模型需要额外训练分类器,因为模型需要能够处理任意噪声的输入。
2.classifier-free guidance
1)权重
:直接学习条件分布,忽略guidance。
:优先学习条件分布,并且向着远离无条件分布的方向改进。即减少没有使用条件信息的样本的生成。
2)训练
无条件和有条件模型能同时被训练。只需在无条件信息时,用零替换条件信息。