【生成模型之七】Classifier-free diffusion guidance

论文：classifier-free diffusion guidance

一、Background

分类器引导是一种最近引入的方法，用于在训练后的条件扩散模型中权衡样本丰富度和样本保真度，其思想与其他类型生成模型中的低温采样或截断相同。

分类器引导将扩散模型的分数估计与图像分类器的梯度相结合，因此需要训练与扩散模型分离的图像分类器。这也提出了一个问题，即是否可以在没有分类器的情况下进行指导。

我们证明，在没有这样的分类器的情况下，引导确实可以通过纯生成模型来执行：在我们所谓的无分类器引导中，我们联合训练一个条件和一个无条件的扩散模型，并将得到的条件和无条件的分数估计结合起来，以实现样本质量和多样性之间的权衡，类似于使用分类器引导获得的结果。

 Diffusion models beat GANs on image synthesis提出了分类器引导，这是一种使用额外训练的分类器来提高扩散模型样本质量的技术。由于分类器引导在采样过程中将分数估计与分类器梯度混合在一起，因此分类器引导的扩散采样可以被解释为试图将图像分类器与基于梯度的对抗攻击混淆。这就提出了一个问题，即分类器指导是否能够成功地提高基于分类器的指标，如FID和Inception分数（is），仅仅是因为它对这些分类器是对抗性的。

为了解决这些问题，我们提出了无分类器引导，我们的引导方法完全避免了任何分类器。无分类器引导不是在图像分类器的梯