扩散模型基本原理

最新推荐文章于 2025-06-23 16:25:11 发布

原创最新推荐文章于 2025-06-23 16:25:11 发布 · 648 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#图像处理 #算法

diffusion 同时被 2 个专栏收录

1 篇文章

订阅专栏

AIGC

1 篇文章

订阅专栏

1 生成式模型基本思想

使用模型模拟真实世界的图像分布，可以学习神经网络模型，使其将标准正态分布的每个点映射到真实图像分布的点

2 扩散模型

2.1 正向过程

在这里插入图片描述从原始图像逐步添加噪声，最终得到近似完全噪声的图像
$q(xt∣xt−1)=N(1−βxt−1;βI)q(x_t|x_{t-1})=N(\sqrt{1-\beta}x_{t-1};\beta \bold{I})$

$β∈[0,1]\beta\in[0,1]$ ， $β\beta$ 值越大， $x_t$ 越接近于噪声；反之， $β\beta$ 取值越小， $x_{t}$ 越接近于 $x_{t-1}$ .

当 $ε∼N(0,I)\varepsilon\sim N(0,\bold{I})$ 时， $μ+σε∼N(μ,σ2I)\mu+\sigma\varepsilon\sim N(\mu,\sigma^2\bold{I})$ .
令 $α=1−β\alpha=1-\beta$
$xt=αtxt−1+1−αtz1=αt(αt−1xt−2+1−αt−1z2)+1−αtz1=αtαt−1xt−2+(αt−αtαt−1z2+1−αtz1)\begin{aligned}x_t&=\sqrt{\alpha_t}x_{t-1}+\sqrt{1-\alpha_t}z_1\\&=\sqrt{\alpha_t}(\sqrt{\alpha_{t-1}}x_{t-2}+\sqrt{1-\alpha_{t-1}}z_2)+\sqrt{1-\alpha_t}z_1\\&=\sqrt{\alpha_t\alpha_{t-1}}x_{t-2}+(\sqrt{\alpha_t-\alpha_t\alpha_{t-1}}z_2+\sqrt{1-\alpha_t}z_1)\end{aligned}$

由于
$z1∼N(0,I)z_1\sim N(0,\bold{I})$ $z2∼N(0,I)z_2\sim N(0,\bold{I})$
所以
$1−αtz1∼N(0,(1−αt)I)\sqrt{1-\alpha_t}z_1\sim N(0,(1-\alpha_t)\bold{I})$ $αt−αtαt−1z2∼N(0,(αt−αtαt−1)I)\sqrt{\alpha_t-\alpha_t\alpha_{t-1}}z_2\sim N(0,(\alpha_t-\alpha_t\alpha_{t-1})\bold{I})$
所以
$1−αtz1+αt−αtαt−1z2∼N(0,(1−αtαt−1)I)\sqrt{1-\alpha_t}z_1+\sqrt{\alpha_t-\alpha_t\alpha_{t-1}}z_2\sim N(0,(1-\alpha_t\alpha_{t-1})\bold{I})$
因此，可令 $z‾t∼N(0,I)\overline{z}_t\sim N(0,\bold{I})$ ， $a‾t=∏i=1tαi\overline{a}_t=\prod^t_{i=1}{\alpha_i}$
$xt=αtαt−1xt−2+(1−αtαt−1)z‾2=a‾tx0+1−α‾t−1z‾t\begin{aligned}x_t&=\sqrt{\alpha_t\alpha_{t-1}}x_{t-2}+\sqrt{(1-\alpha_t\alpha_{t-1})}\overline{z}_2\\&=\sqrt{\overline{a}_t}x_{0}+\sqrt{1-\overline{\alpha}_{t-1}}\overline{z}_t\end{aligned}$