DDPM中为什么网络预测噪声而不是均值？

为什么直接学习 ${\tilde{\mu }}_t$ 会复杂？

1. ${\tilde{\mu }}_t$ 的表达式复杂：
   ${\tilde{\mu }}_t$ 的具体形式为：
   $${\tilde{\mu }}_t(x_t,x_0)=\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{x}_0+\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{x}_t$$
   这里，${\tilde{\mu }}_t$ 依赖于 $x_0$，但 $x_0$ 是逆向过程中需要重建的目标，在推理时是未知的。因此，神经网络必须从 $x_t$ 和 $t$ 间接推断 $x_0$，这增加了学习的难度。

2. 数值范围变化大：
   ${\tilde{\mu }}_t$ 中的系数（如 $\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}$）随着时间步 $t$ 变化很大，导致 ${\tilde{\mu }}_t$ 的数值范围在不同 $t$ 上差异显著。这会使训练不稳定，因为神经网络需要适应这些变化，优化过程可能难以收敛。

3. 训练目标不直接：
   如果直接预测 ${\tilde{\mu }}_t$，损失函数是 ${\tilde{\mu }}_t$ 和 ${\mu }_{\theta }(x_t,t)$ 之间的均方误差（MSE）：
   $$\Vert {\tilde{\mu }}_t-{\mu }_{\theta }(x_t,t){\Vert }^2$$
   但由于 ${\tilde{\mu }}_t$ 依赖于 $x_0$，这个损失函数隐含地要求神经网络准确重建 $x_0$，这对于高维数据（如图像）来说是一个复杂的回归问题。

如何简化？预测噪声 $ϵ$

在扩散模型中，一个更简单的方法是让神经网络预测噪声 $ϵ$，而不是直接预测 ${\tilde{\mu }}_t$。这是因为从正向过程，我们有：
$$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ$$
其中 $ϵ\sim \mathcal{N}(0,I)$ 是添加的高斯噪声。通过重参数化，我们可以将 ${\tilde{\mu }}_t$ 表示为 $x_t$ 和 $ϵ$ 的函数：
$${\tilde{\mu }}_t(x_t,ϵ)=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}ϵ\right)$$
因此，如果我们让神经网络预测 $ϵ$，即学习一个函数 ${ϵ}_{\theta }(x_t,t)$，那么逆向过程的均值可以表示为：
$${\mu }_{\theta }(x_t,t)=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_{\theta }(x_t,t)\right)$$
这样，训练目标就变成了最小化预测噪声和真实噪声之间的 MSE：
$$\Vert ϵ-{ϵ}_{\theta }(x_t,t){\Vert }^2$$

为什么预测 $ϵ$ 更简单？

1. 任务更直接：
   预测噪声 $ϵ$ 是一个更简单的任务，因为 $ϵ$ 是从标准正态分布采样的，其均值为0、方差为1。神经网络只需要估计一个相对稳定的噪声模式，而不需要直接处理图像内容的重建。这相当于只学习“差异”部分，即 $x_t$ 和 $x_0$ 之间的噪声。

2. 数值稳定：
   噪声 $ϵ$ 的尺度始终一致（标准正态），避免了 ${\tilde{\mu }}_t$ 的系数变化带来的数值不稳定。损失函数 $\Vert ϵ-{ϵ}_{\theta }{\Vert }^2$ 也更容易优化。

3. 物理意义清晰：
   在正向过程中，$x_t$ 是通过添加噪声 $ϵ$ 得到的，因此预测 $ϵ$ 直观地对应了“去噪”操作。当 $t$ 较小时，$x_t$ 接近 $x_0$，噪声 $ϵ$ 很小，神经网络只需要预测一个小的修正；当 $t$ 较大时，$x_t$ 很嘈杂，但噪声 $ϵ$ 仍然是标准正态，网络可以专注于估计大幅噪声。

总结

直接学习 ${\tilde{\mu }}_t$ 复杂是因为它要求神经网络隐含地恢复 $x_0$，并处理不同时间步的数值变化。而预测噪声 $ϵ$ 简化了优化过程，因为它将问题转化为一个更直接的去噪任务，只关注于估计添加的噪声，从而提高了训练的稳定性和效率。这就是为什么在扩散模型（如DDPM）中，通常选择预测 $ϵ$ 而不是直接预测 ${\tilde{\mu }}_t$。