从扩散模型开始的生成模型范式演变--SDE(3)

zzfive

墨衍会员 · AI 创作全网分发码龄8年

关注

原创 2024-12-16 21:40:05 883 阅读 AI 写同款· GEO 优化 ›

【理论推导】随机微分方程(SDE)视角下的Diffusion Model与Score-based Model 随机微分方程下的扩散模型与分数模型阅读详情

文章目录

如何证明
DDPM
Score Matching

在SDE的第二篇文章中提到过，SDE范式可以将DDPM和Score Matching整合到其范式中。起初笔者对这部分也不是很清晰，在看过B站Up主 Double童发发的视频手把手带你探索与发现DDPM与Score Matching的随机微分方程（SDE）表达形式后逐渐清晰，本文就基于该视频内容做一个文本性质的总结，感兴趣的读者可跳转到视频进一步了解。

如何证明

在之前的SDE文章中已经给出了，SDE的前向过程公式为
$\tag1$
其中 $w$ 是一个标准布朗运动，是SDE的随机性来源， $d w$ 可用 $\sqrt{dt}\epsilon$ 表示，其中 $\epsilon \in N(0,I)$ 。想要证明DDPM、Score Matching是SDE范式下的特例，那就要证明其加噪方式可以表示成SDE的形式。虽然SDE是连续的，但是在用欧拉等数值方法求解时，还是会将SDE过程离散化，而DDPM、Score Matching的加噪过程也是离散的，所以我们可以将SDE表达离散化，如公式(2)；如果可以证明DDPM、Score Matching加噪过程符合离散化之后的性质，就能说明其是SDE的一种离散加噪特例。
$x_t -x_{t-\Delta{t}} = f(x,t)\Delta{t} + g(t)\sqrt{\Delta{t}}\epsilon \tag2$

DDPM

在DDPM中，其前向加噪公式为 $x_t=\sqrt{1-\beta_t}x_{t-1} + \sqrt{\beta_t}\epsilon$ ，在SDE中讨论的都是函数的关系，而加噪公式中的 $t$ 其实就是函数；并且 $x_t$ 与 $x_{t-1}$ 之间的差距就是 $x_t$ 与 $x_{t-\Delta{t}}$ 之间的差距，因为DDPM中加噪步数为1000，将其归一化后， $\Delta{t}=\frac{1}{1000}$ ，故DDPM的加噪公式可记为
$x_t=\sqrt{1-\beta(t)}x_{t-\Delta{t}} + \sqrt{\beta(t)}\epsilon \tag3$

目前公式(3)与公式(2)相比，差别在于两项系数。先从 $\epsilon$ 的系数开始，对比可知，公式(3)中 $\epsilon$ 的系数缺一个 $\sqrt{\Delta{t}}$ ，既然缺一个，强行凑一个出来就行，有
$\begin{align*} x_t &=\sqrt{1-\beta(t)}x_{t-\Delta{t}} + \sqrt{\beta(t)}\epsilon \\ & =\sqrt{1-\beta(t)}x_{t-\Delta{t}} + \sqrt{\frac{\beta(t)}{\Delta{t}}}\sqrt{\Delta{t}}\epsilon \tag4 \end{align*}$

公式(4)中后面一项已符合，现在继续看前面一项；公式(2)中希望 $x_{t-\Delta{t}}$ 前面系数是为1的，可是公式(4)中前面却有一个开根号项，那应该如何处理呢？此处需要使用泰勒展开，只需展开一级即可；即根据泰勒展开定理，函数 $f (z)$ 在 $a$ 展开有 $f(z) = f(a)+f^{'}(a)(z-a)+R_0(z)$ ，将 $\beta(t)$ 看作一个整体，用 $z$ 表示， $f(z)=\sqrt{1-z}$ ，将其在0处展开，有
$\begin{align*} f(z) &=f(0)+f^{'}(0)(z-0)+R_0(z) \\ & \approx 1-\frac{1}{2\sqrt{1-0}}z \\ & = 1-\frac{1}{2}z \tag5 \end{align*}$

将公式(5)中的 $z$ 恢复回 $\beta(t)$ ，有
$\sqrt{1-\beta(t)} \approx 1-\frac{1}{2}\beta(t) \tag6$

将公式(6)带入到公式(4)中有
$\begin{align*} x_t & \approx (1-\frac{1}{2}\beta(t))x_{t-\Delta{t}}+\sqrt{\frac{\beta(t)}{\Delta{t}}}\sqrt{\Delta{t}}\epsilon \\ & = x_{t-\Delta{t}}-\frac{1}{2}\beta(t)x_{t-\Delta{t}}+\sqrt{\frac{\beta(t)}{\Delta{t}}}\sqrt{\Delta{t}}\epsilon \\ x_t- x_{t-\Delta{t}} & \approx -\frac{1}{2}\beta(t)x_{t-\Delta{t}}+\sqrt{\frac{\beta(t)}{\Delta{t}}}\sqrt{\Delta{t}}\epsilon \\ x_t- x_{t-\Delta{t}} & \approx -\frac{1}{2}\frac{\beta(t)}{\Delta{t}}x_{t-\Delta{t}}\Delta{t}+\sqrt{\frac{\beta(t)}{\Delta{t}}}\sqrt{\Delta{t}}\epsilon \tag7 \end{align*}$

对公式(7)左右两边取微元，即假设 $\Delta{t}$ 趋近于0，有
$dx=-\frac{1}{2}\frac{\beta(t)}{\Delta{t}}x_{t}dt+\sqrt{\frac{\beta(t)}{\Delta{t}}}dw \tag8$

至此，将DDPM的前向加噪公式推导出公式(8)，与公式(1)结构一致。

Score Matching

Score Matching的推导会比DDPM的更简单，在第一篇SDE文章中讲过，Score Matching就是在不同时刻使用不同的噪声等级给原始目标数据加噪，加噪之后的数据分布符合 $N(\tilde{x}|x,\sigma_t^2I)$ ，其中 $\sim p_{data}$ 。将时间 $t$ 带入扰动后数据分布有
$\begin{align*} x_t & \sim N(x,\sigma^2(t)I) \tag9 \\ x_{t-\Delta{t}} & \sim N(x,\sigma^2(t-\Delta{t})I) \tag{10} \end{align*}$

因为上述是两个分布之间的变换，不能直接进行加减法运算，但因为两者都是正态部分，并且正态分数具有线性可加性，公式(9)中的分布可通过公式(10)中的分布加上另外一个高斯分布得到，即 $N(0,(\sigma^2(t)-\sigma^2(t-\Delta{t}))I)$ ，故有
$\begin{align*} x_t &= x_{t-\Delta{t}} + \sqrt{\sigma^2(t)-\sigma^2(t-\Delta{t})}\epsilon \\ x_t - x_{t-\Delta{t}} &= \sqrt{\sigma^2(t)-\sigma^2(t-\Delta{t})}\epsilon \\ x_t - x_{t-\Delta{t}} &= \sqrt{\frac{\sigma^2(t)-\sigma^2(t-\Delta{t})}{\Delta{t}}}\sqrt{\Delta{t}}\epsilon \tag{11} \end{align*}$