diffusion model (扩散模型）原理

扩散模型分为正向过程和反向过程。
正向过程为一点点在图片上添加噪声的过程，反向过程为去噪声的过程。

图片的生成就是反向过程，给一张高斯噪声图片，逐步去噪生成图片。

扩散模型和VAE的区别，
VAE是一步到位的（通过encoder-decoder），扩散模型要分成N个step, 是一个自回归过程。

扩散模型的训练过程

重复1到5行的过程，直到收敛。
每次采样一张图片$x_0$，t, 和高斯噪声图像$ϵ$。
$\overline{{\alpha }_t}$是事先定义好的数字，你可以定义它随时间线性变小，也可以是cosine分布。在你采样 t 的时候，t 也同时对应了一个$\overline{{\alpha }_t}$。
$ϵ$是高斯噪声图片，那么就表示在图片上添加噪声。
${ϵ}_{\theta }$可以理解为一个noise predictor, 它可以是一个网络，$input$是加了噪声的图片和 t , 输出是一个噪声图片 ${ϵ}_{\theta }(input)$,
根据采样的噪声$ϵ$和预测的噪声图片${ϵ}_{\theta }(input)$的误差来训练这个noise predictor,
使它能够输出尽可能接进$ϵ$的噪声。

上面的过程也说明了一个问题，
当你采样了 t, 是可以直接计算 t 时刻的加了噪声的图片的，

而不是想像中的这个样子：

推理过程

前面提到了扩散模型有正向和反向过程，
在正向过程中，图片是$x_0$, 逐步加噪声，到T时刻的$x_T$是一个噪声图片。

推理过程是反向过程，根据高斯噪声的$x_T$的得到图片$x_0$.

${ϵ}_{\theta }$是前面训练过程中训练的noise predictor, 它的input为加了噪声的图片$x_t$和 t.
$z$也是一个采样的噪声图片。

上面的过程是这样的：
采样N次，直到得到清晰的$x_0$

公式推导部分待更新。

参考资料