扩散模型(Diffusion Model)数学推导（含详细注解）

扩散模型(Diffusion Model)数学推导

1. 基本概念

扩散模型是一种基于马尔可夫链的生成模型，包含两个核心过程：

1.1 扩散过程（前向过程）

逐步向数据添加高斯噪声，将数据分布转化为标准正态分布：

$$q(x_{1:T}|x_0)=\prod _{t=1}^{T}q(x_t|x_{t-1})$$

1.2 逆扩散过程（反向过程）

学习从噪声中重建原始数据：

$$p_{\theta }(x_{0:T})=p(x_T)\prod _{t=1}^T{p}_{\theta }(x_{t-1}|x_t)$$

2. 前向过程详细推导

2.1 单步扩散

每一步的扩散过程定义为：

$$q(x_t|x_{t-1})=\mathcal{N}(x_t;\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_t\mathbf{I})$$

使用重参数化技巧表示为：

$$x_t=\sqrt{{\alpha }_t}{x}_{t-1}+\sqrt{1-{\alpha }_t}{ϵ}_{t-1},{\alpha }_t=1-{\beta }_t$$

2.2 任意时刻表示

通过递归展开可得：

$$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ$$

其中：${\bar{\alpha }}_t={\prod }_{i=1}^t{\alpha }_i$, $ϵ\sim \mathcal{N}(0,\mathbf{I})$。

递归推导：
$$\begin{array}{rl}{x}_t& =\sqrt{{\alpha }_t}{x}_{t-1}+\sqrt{1-{\alpha }_t}{ϵ}_{t-1}\\ & =\sqrt{{\alpha }_t}\left(\sqrt{{\alpha }_{t-1}}{x}_{t-2}+\sqrt{1-{\alpha }_{t-1}}{ϵ}_{t-2}\right)+\sqrt{1-{\alpha }_t}{ϵ}_{t-1}\\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{x}_{t-2}+\sqrt{{\alpha }_t\left(1-{\alpha }_{t-1}\right)}{ϵ}_{t-2}+\sqrt{1-{\alpha }_t}{ϵ}_{t-1}\\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{x}_{t-2}+\sqrt{1-{\alpha }_{t-1}{\alpha }_t}{\overline{ϵ}}_{t-2}\\ & \cdots \\ & =\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ\end{array}$$
注解： ${ϵ}_{t-1}$和${ϵ}_{t-2}$是相互独立的高斯分布，因此可以合成一个新的高斯分布${\overline{ϵ}}_{t-2}$，标准差为$\sqrt{1-{\alpha }_{t-1}{\alpha }_t}$。参考公式：给定两个独立的正态分布 $X_1\sim N\left({\mu }_1,{\sigma }_1^2\right)$ 和 $X_2\sim N\left({\mu }_2,{\sigma }_2^2\right)$ ，且 $ab$ 均为实数则
$$a{X}_1+b{X}_2\sim N\left(a{\mu }_1+b{\mu }_2,a^2{\sigma }_1^2+b^2{\sigma }_2^2\right)$$

2.3 性质分析

当$T\to \infty$时：${\bar{\alpha }}_t\to 0$ $\Rightarrow$ $x_T\to \mathcal{N}(0,\mathbf{I})$。

3. 反向过程推导

如果我们能够逆转上述过程并从 $q\left(x_{t-1}\mid x_t\right)$ 采样，就可以从高斯噪声 $x_T\sim \mathcal{N}(0,\mathbf{I})$ 还原出原图分布 $x_0\sim q(x)$ 。因为我们无法直接推断出 $q\left(x_{t-1}\mid x_t\right)$ ，所以通过神经网络去预测/拟合这样的一个逆向的分布 $p_{\theta }\left(x_{t-1}\mid x_t\right)$。

3.1 真实反向分布结论

当已知$x_0$时，反向分布可解析求得：

$$q(x_{t-1}|x_t,x_0)=\mathcal{N}(x_{t-1};{\tilde{\mu }}_t,{\tilde{\beta }}_t\mathbf{I})$$

其中：${\tilde{\mu }}_t=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_t\right)$，${\tilde{\beta }}_t=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}\cdot {\beta }_t$

3.2 推导

$$\begin{array}{rl}& q\left(x_{t-1}\mid x_t,x_0\right)=\frac{q\left(x_t,x_0,x_{t-1}\right)}{q\left(x_t,x_0\right)}=\frac{q\left(x_0\right)q\left(x_{t-1}\mid x_0\right)q\left(x_t\mid x_{t-1},x_0\right)}{q\left(x_0\right)q\left(x_t\mid x_0\right)}\\ & =q\left(x_t\mid x_{t-1},x_0\right)\frac{q\left(x_{t-1}\mid x_0\right)}{q\left(x_t\mid x_0\right)}=q\left(x_t\mid x_{t-1}\right)\frac{q\left(x_{t-1}\mid x_0\right)}{q\left(x_t\mid x_0\right)}\\ & \propto \exp \left(-\frac{1}{2}\left(\frac{{\left(x_t-\sqrt{{\alpha }_t}{x}_{t-1}\right)}^2}{{\beta }_t}+\frac{{\left(x_{t-1}-\sqrt{{\bar{\alpha }}_{t-1}}{x}_0\right)}^2}{1-{\bar{a}}_{t-1}}-\frac{{\left(x_t-\sqrt{{\bar{a}}_t}{x}_0\right)}^2}{1-{\bar{a}}_t}\right)\right)\\ & =\exp (-\frac{1}{2}(\underset{x_{t-1}\text{ 万差 }}{\underbrace{(\left(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}}\right)x_{t-1}^2}}-\underset{x_{t-1}\text{ 均值 }}{\underbrace{\left(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{x}_t+\frac{2\sqrt{{\bar{a}}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{x}_0\right)x_{t-1}}}+\underset{\text{与 }{x}_{t-1}\text{ 无关 }}{\underbrace{C\left(x_t,x_0\right)}}).\end{array}$$
注解： 推导过程用到了贝叶斯公式，马尔科夫性，以及高斯公式
贝叶斯公式： $P(A|B)=\frac{P(B|A)P(A)}{P(B)}$;
因为扩散过程是一个马尔科夫过程，所以有$q\left(x_t\mid x_{t-1},x_0\right)=q\left(x_t\mid x_{t-1}\right)$;
将条件概率转化为概率密度的表达形式，它们是成正相关或认为成正比关系的。高斯分布 $x\sim N\left(\mu ,{\sigma }^2\right)$ 的概率密度函数为：
$$f(x)=\frac{1}{\sqrt{2\pi }\sigma }\exp \left(\frac{-(x-\mu {)}^2}{2{\sigma }^2}\right)$$

根据上述公式，进一步可以获得方差和均值：
方差：（观察可知方差为常数值）
$${\tilde{\beta }}_t=1/(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}})=1/\left(\frac{{\alpha }_t-{\bar{\alpha }}_t+{\beta }_t}{{\beta }_t\left(1-{\bar{\alpha }}_{t-1}\right)}\right)=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}\cdot {\beta }_t$$
均值：
$$\begin{array}{rl}{\tilde{\mu }}_t\left(x_t,x_0\right)& =\left(\frac{\sqrt{{\alpha }_t}}{{\beta }_t}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{x}_0\right)/\left(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}}\right)\\ & =\left(\frac{\sqrt{{\alpha }_t}}{{\beta }_t}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{x}_0\right)\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}\cdot {\beta }_t\\ & =\frac{\sqrt{{\alpha }_t}\left(1-{\bar{\alpha }}_{t-1}\right)}{1-{\bar{\alpha }}_t}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{x}_0\end{array}$$

将$x_0$表示为：$x_0=\frac{1}{\sqrt{{\bar{\alpha }}_t}}(x_t-\sqrt{1-{\bar{\alpha }}_t}{ϵ}_t)$，代入上式得：
$$\begin{array}{rl}{\tilde{\mu }}_t\left(x_t,x_0\right)& =\frac{\sqrt{{\alpha }_t}\left(1-{\bar{\alpha }}_{t-1}\right)}{1-{\bar{\alpha }}_t}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{x}_0\\ & =\frac{\sqrt{{\alpha }_t}\left(1-{\bar{\alpha }}_{t-1}\right)}{1-{\bar{\alpha }}_t}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}\cdot \frac{1}{\sqrt{{\bar{\alpha }}_t}}\left(x_t-\sqrt{1-{\bar{\alpha }}_t}{z}_t\right)\\ & =\frac{\sqrt{{\alpha }_t}\cdot \sqrt{{\alpha }_t}\left(1-{\bar{\alpha }}_{t-1}\right)}{\sqrt{{\alpha }_t}\cdot \left(1-{\bar{\alpha }}_t\right)}{x}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}\cdot \frac{1}{\sqrt{{\bar{\alpha }}_t}}\left(x_t-\sqrt{1-{\bar{\alpha }}_t}{z}_t\right)\\ & =\frac{{\alpha }_t-{\bar{\alpha }}_t}{\sqrt{{\alpha }_t}\left(1-{\bar{\alpha }}_t\right)}{x}_t+\frac{{\beta }_t}{\left(1-{\bar{\alpha }}_t\right)\sqrt{{\alpha }_t}}\left(x_t-\sqrt{1-{\bar{\alpha }}_t}{z}_t\right)\\ & =\frac{1-{\bar{\alpha }}_t}{\sqrt{{\alpha }_t}\left(1-{\bar{\alpha }}_t\right)}{x}_t-\frac{{\beta }_t}{\left(1-{\bar{\alpha }}_t\right)\sqrt{{\alpha }_t}}\left(\sqrt{1-{\bar{\alpha }}_t}{z}_t\right)\\ & =\frac{1}{\sqrt{{\alpha }_t}}{x}_t-\frac{{\beta }_t}{\sqrt{\left(1-{\bar{\alpha }}_t\right)}\sqrt{{\alpha }_t}}{z}_t\\ & =\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{\left(1-{\bar{\alpha }}_t\right)}}{z}_t\right)\end{array}$$
其中${\beta }_t=1-{\alpha }_t$，则最终结果为：
$${\tilde{\mu }}_t=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_t\right)$$

4. 训练目标

为什么预测噪声而不是直接预测图像？1

1. 简化建模问题
   不同时间步共享相同的噪声预测目标。考虑到我们每次只需要预测一个特定的时间步（t）的噪声，网络的目标变得更加明确且简单。直接预测图像 x_0 的像素值，则意味着模型需要从噪声中恢复整个图像结构，这在高维空间中是一个非常复杂的问题。

更进一步，预测噪声本质上是一个去噪过程，这个过程相对更加容易拟合和收敛。

2. 稳定性和收敛性
   在扩散模型中，噪声是添加到每个像素上的随机扰动。通过学习从噪声中恢复出原始图像的噪声成分，网络本质上是在学习图像的细节，而不是整个图像结构。因此，通过减少噪声的预测误差，模型能够更加稳定地训练。

1: 第 4 期：DDPM中的损失函数——为什么只预测噪声？ 原文链接：https://blog.youkuaiyun.com/m0_45101613/article/details/147340147

4.1 变分下界

似然函数 $p_{\theta }\left(x_0\right)$ 表示在模型参数 $\theta$ 下，观测数据 $x_0$ 出现的概率。最大化似然即：

$$\underset{\theta }{\max }\log p_{\theta }\left(x_0\right)$$

等价于让模型生成的数据分布 $p_{\theta }$ 尽可能接近真实数据分布 $q\left(x_0\right)$ 。

由于似然函数求积分通常无法直接计算，因此我们通过变分下界（ELBO）来近似：
$$\begin{array}{rl}\log p(\mathbf{x})& =\log \int p\left({\mathbf{x}}_{0:T}\right)d{\mathbf{x}}_{1:T}\\ & =\log \int \frac{p\left({\mathbf{x}}_{0:T}\right)q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}d{\mathbf{x}}_{1:T}\\ & =\log {\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\frac{p\left({\mathbf{x}}_{0:T}\right)}{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\right]\\ & \ge {\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log \frac{p\left({\mathbf{x}}_{0:T}\right)}{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\right]\end{array}$$
注解： 上式中不等式，由琴生不等式得到。琴生不等式：对于凹函数（Concave Function）​​ ϕ 和随机变量 X，有(E[X])≥E[ϕ(X)]。对数函数 log(⋅)​​ 是凹函数（其二阶导数为负）。

$$\begin{array}{rl}& {\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log \frac{p\left({\mathbf{x}}_{0:T}\right)}{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\right]\\ & ={\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log \frac{p\left({\mathbf{x}}_T\right){\prod }_{t=1}^T{p}_{\mathbf{\theta }}\left({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t\right)}{{\prod }_{t=1}^{T}q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1}\right)}\right]\\ & ={\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log \frac{p\left({\mathbf{x}}_T\right)p_{\mathbf{\theta }}\left({\mathbf{x}}_0\mid {\mathbf{x}}_1\right){\prod }_{t=2}^T{p}_{\mathbf{\theta }}\left({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t\right)}{q\left({\mathbf{x}}_T\mid {\mathbf{x}}_{T-1}\right){\prod }_{t=1}^{T-1}q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1}\right)}\right]\\ & ={\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log \frac{p\left({\mathbf{x}}_T\right)p_{\mathbf{\theta }}\left({\mathbf{x}}_0\mid {\mathbf{x}}_1\right){\prod }_{t=1}^{T-1}{p}_{\mathbf{\theta }}\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t+1}\right)}{q\left({\mathbf{x}}_T\mid {\mathbf{x}}_{T-1}\right){\prod }_{t=1}^{T-1}q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1}\right)}\right]\\ & ={\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log \frac{p\left({\mathbf{x}}_T\right)p_{\mathbf{\theta }}\left({\mathbf{x}}_0\mid {\mathbf{x}}_1\right)}{q\left({\mathbf{x}}_T\mid {\mathbf{x}}_{T-1}\right)}\right]+{\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log \prod _{t=1}^{T-1}\frac{p_{\mathbf{\theta }}\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t+1}\right)}{q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1}\right)}\right]\\ & ={\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log p_{\mathbf{\theta }}\left({\mathbf{x}}_0\mid {\mathbf{x}}_1\right)\right]+{\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log \frac{p\left({\mathbf{x}}_T\right)}{q\left({\mathbf{x}}_T\mid {\mathbf{x}}_{T-1}\right)}\right]+{\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\sum _{t=1}^{T-1}\log \frac{p_{\mathbf{\theta }}\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t+1}\right)}{q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1}\right)}\right]\\ & ={\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log p_{\mathbf{\theta }}\left({\mathbf{x}}_0\mid {\mathbf{x}}_1\right)\right]+{\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log \frac{p\left({\mathbf{x}}_T\right)}{q\left({\mathbf{x}}_T\mid {\mathbf{x}}_{T-1}\right)}\right]+\sum _{t=1}^{T-1}{\mathbb{E}}_{q\left({\mathbf{x}}_{1:T}\mid {\mathbf{x}}_0\right)}\left[\log \frac{p_{\mathbf{\theta }}\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t+1}\right)}{q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1}\right)}\right]\\ & ={\mathbb{E}}_{q\left({\mathbf{x}}_1\mid {\mathbf{x}}_0\right)}\left[\log p_{\mathbf{\theta }}\left({\mathbf{x}}_0\mid {\mathbf{x}}_1\right)\right]+{\mathbb{E}}_{q\left({\mathbf{x}}_{T-1},{\mathbf{x}}_T\mid {\mathbf{x}}_0\right)}\left[\log \frac{p\left({\mathbf{x}}_T\right)}{q\left({\mathbf{x}}_T\mid {\mathbf{x}}_{T-1}\right)}\right]+\sum _{t=1}^{T-1}{\mathbb{E}}_{q\left({\mathbf{x}}_{t-1},{\mathbf{x}}_t,{\mathbf{x}}_{t+1}\mid {\mathbf{x}}_0\right)}\left[\log \frac{p_{\mathbf{\theta }}\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t+1}\right)}{q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1}\right)}\right]\\ & =\underset{\text{L0 reconstruction term }}{\underbrace{{\mathbb{E}}_{q\left({\mathbf{x}}_1\mid {\mathbf{x}}_0\right)}\left[\log p_{\theta }\left({\mathbf{x}}_0\mid {\mathbf{x}}_1\right)\right]}}-\underset{\text{LT prior matching term }}{\underbrace{{\mathbb{E}}_{q\left({\mathbf{x}}_{T-1}\mid {\mathbf{x}}_0\right)}\left[D_{\mathbf{KL}}\left(q\left({\mathbf{x}}_T\mid {\mathbf{x}}_{T-1}\right)\Vert p\left({\mathbf{x}}_T\right)\right)\right]}}\\ & -\sum _{t=1}^{T-1}\underset{\text{Lt consistency term }}{\underbrace{{\mathbb{E}}_{q\left({\mathbf{x}}_{t-1},{\mathbf{x}}_{t+1}\mid {\mathbf{x}}_0\right)}\left[D_{\mathbf{KL}}\left(q\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1}\right)\Vert p_{\theta }\left({\mathbf{x}}_t\mid {\mathbf{x}}_{t+1}\right)\right)\right]}}\end{array}$$
展开后包含三项：

1. $L_T$: 先验匹配项。作用​​：约束最终噪声分布接近标准正态。当$T$足够大时，$q\left({\mathbf{x}}_T\mid {\mathbf{x}}_0\right)$ 已是标准正态，此项可忽略。
2. $L_t$: 去噪匹配项（核心项）。真实分布与模型分布的KL散度。
3. $L_0$: 重构项。通常用离散化后的高斯分布或固定方差处理。

优化目标为：

$${\mathcal{L}}_{\text{VLB}}={\mathbb{E}}_q\left[-\log \frac{p_{\theta }(x_{0:T})}{q(x_{1:T}|x_0)}\right]$$
$$\begin{array}{rl}{L}_t& ={\mathbb{E}}_{{\mathbf{x}}_0,ϵ}\left[\frac{1}{2{\Vert {\mathbf{\Sigma }}_{\theta }\left({\mathbf{x}}_t,t\right)\Vert }_2^2}{\Vert {\mu }_{\theta }\left({\mathbf{x}}_t,t\right)\Vert }^2\right]\\ & ={\mathbb{E}}_{{\mathbf{x}}_0,ϵ}\left[\frac{1}{2{\Vert {\mathbf{\Sigma }}_{\theta }\Vert }_2^2}{\Vert \frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_{\theta }\left({\mathbf{x}}_t,t\right)\right)\Vert }^2\right]\\ & ={\mathbb{E}}_{{\mathbf{x}}_0,ϵ}\left[\frac{{\left(1-{\alpha }_t\right)}^2}{2{\alpha }_t\left(1-{\bar{\alpha }}_t\right){\Vert {\mathbf{\Sigma }}_{\theta }\Vert }_2^2}{\Vert {\mathbf{ϵ}}_t-{\mathbf{ϵ}}_{\theta }\left({\mathbf{x}}_t,t\right)\Vert }^2\right]\\ & ={\mathbb{E}}_{{\mathbf{x}}_0,ϵ}\left[\frac{{\left(1-{\mathbf{\alpha }}_t\right)}^2}{2{\alpha }_t\left(1-{\bar{\alpha }}_t\right){\Vert {\mathbf{\Sigma }}_{\theta }\Vert }_2^2}{\Vert {\mathbf{ϵ}}_t-{\mathbf{ϵ}}_{\theta }\left(\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}{\mathbf{ϵ}}_t,t\right)\Vert }^2\right]\end{array}$$
其中$\begin{array}{r}{\mathbf{\mu }}_{\theta }\left({\mathbf{x}}_t,t\right)=\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }\left({\mathbf{x}}_t,t\right)\right)\end{array}$，
${\mathbf{x}}_{t-1}=\mathcal{N}\left({\mathbf{x}}_{t-1};\frac{1}{\sqrt{{\alpha }_t}}\left({\mathbf{x}}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{ϵ}}_{\theta }\left({\mathbf{x}}_t,t\right)\right),{\mathbf{\Sigma }}_{\theta }\left({\mathbf{x}}_t,t\right)\right)$

实际使用简化形式：

$$\begin{array}{rl}{\mathcal{L}}_{\text{simple}}& ={\mathbb{E}}_{t,x_0,ϵ}\left[\Vert ϵ-{ϵ}_{\theta }(x_t,t){\Vert }^2\right]\\ & ={\mathbb{E}}_{t\sim [1,T],{\mathbf{x}}_{0,{ϵ}_t}}\left[{\Vert {ϵ}_t-{ϵ}_{\theta }\left(\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}{ϵ}_t,t\right)\Vert }^2\right]\end{array}$$

5. 采样算法

1. 从$x_T\sim \mathcal{N}(0,\mathbf{I})$开始
2. 对于$t=T,...,1$:
   • 预测噪声${ϵ}_{\theta }(x_t,t)$
   • 计算均值${\mu }_{\theta }(x_t,t)$
   • 采样$x_{t-1}\sim \mathcal{N}({\mu }_{\theta },{\sigma }_t^2\mathbf{I})$
3. 输出$x_0$

6. 实现细节

超参数	典型值	说明
T	1000	总步数
${\beta }_{\text{min}}$	1e-4	起始噪声
${\beta }_{\text{max}}$	0.02	最终噪声
网络架构	U-Net	带时间嵌入

7. 核心公式总结

1. 前向过程：
   $$x_t=\sqrt{{\bar{\alpha }}_t}{x}_0+\sqrt{1-{\bar{\alpha }}_t}ϵ$$

2. 反向均值：
   $${\tilde{\mu }}_t=\frac{1}{\sqrt{{\alpha }_t}}\left(x_t-\frac{{\beta }_t}{\sqrt{1-{\bar{\alpha }}_t}}{ϵ}_{\theta }\right)$$

3. 训练目标：
   $$\underset{\theta }{\min }\Vert ϵ-{ϵ}_{\theta }(x_t,t){\Vert }^2$$

参考资料

1. 扩散模型原理+DDPM案例代码解析
2. DDPM扩散模型公式推理----扩散和逆扩散过程
3. What are Diffusion Models?
4. 原始论文：Denoising Diffusion Probabilistic Models

如有错误欢迎指正。

如有疑问欢迎留言讨论。