论文阅读笔记：Denoising Diffusion Implicit Models （4）

原创 已于 2025-04-05 17:09:02 修改 · 663 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#论文阅读 #笔记

于 2025-04-02 13:37:32 首次发布

0、快速访问

论文阅读笔记：Denoising Diffusion Implicit Models （1）
论文阅读笔记：Denoising Diffusion Implicit Models （2）
论文阅读笔记：Denoising Diffusion Implicit Models （3）
论文阅读笔记：Denoising Diffusion Implicit Models （4）
论文阅读笔记：Denoising Diffusion Implicit Models （5）

5、接上文论文阅读笔记：Denoising Diffusion Implicit Models （3）

由前向加噪过程，可以推知 q σ ( x t − 2 ∣ x t − 1 , x 0 ) = N ( x t − 2 ∣ 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ x t − 1 + [ α t − 2 − α t − 1 ⋅ ( 1 − α t − 2 − σ t − 1 2 ) 1 − α t − 1 ] ⋅ x 0 , σ t − 1 2 I ) q_{\sigma}(x_{t-2}|x_{t-1},x_0)=N\bigg(x_{t-2}|\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot x_{t-1}+ \bigg[\sqrt{\alpha_{t-2}}- \frac{\sqrt{ \alpha_{t-1}\cdot (1-\alpha_{t-2}-\sigma_{t-1}^2} )}{\sqrt{1-\alpha_{t-1}}} \bigg] \cdot x_0 ,\sigma_{t-1}^2 I\bigg) qσ​(xt−2​∣xt−1​,x0​)=N(xt−2​∣1−αt−1​1−αt−2​−σt−12​​ ​⋅xt−1​+[αt−2​ ​−1−αt−1​ ​αt−1​⋅(1−αt−2​−σt−12​ ​)​]⋅x0​,σt−12​I)。
接下来考虑，跳 2 2 2步时的采样过程，即在给定 x 0 x_0 x0​和 x t x_t xt​时， x t − 2 x_{t-2} xt−2​时的采样过程，即 q σ ( x t − 2 ∣ x 0 , x t ) q_\sigma(x_{t-2}|x_0,x_t) qσ​(xt−2​∣x0​,xt​)的分布。
首先，我们可以确定 q σ ( x t − 2 ∣ x 0 , x t ) q_\sigma(x_{t-2}|x_0,x_t) qσ​(xt−2​∣x0​,xt​)是高斯分布，假设其均值和方差分别为 μ t − 2 \mu_{t-2} μt−2​和 σ t − 2 2 \sigma_{t-2}^2 σt−22​。由于 q σ ( x t − 2 ∣ x 0 , x t ) q_\sigma(x_{t-2}|x_0,x_t) qσ​(xt−2​∣x0​,xt​)是 q σ ( x t − 2 , x t − 1 ∣ x 0 , x t ) q_\sigma(x_{t-2},x_{t-1}|x_0,x_t) qσ​(xt−2​,xt−1​∣x0​,xt​) 的边缘分布。

q σ ( x t − 2 ∣ x 0 , x t ) = ∫ q σ ( x t − 2 , x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 = ∫ q σ ( x t − 2 ∣ x 0 , x t − 1 ) ⋅ q σ ( x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 \begin{equation} \begin{split} q_\sigma(x_{t-2}|x_0,x_t)&= \int q_\sigma(x_{t-2},x_{t-1}|x_0,x_t) \cdot dx_{t-1} \\ &=\int q_\sigma(x_{t-2}|x_0,x_{t-1}) \cdot q_\sigma(x_{t-1}|x_0,x_{t}) \cdot dx_{t-1} \end{split} \end{equation} qσ​(xt−2​∣x0​,xt​)​=∫qσ​(xt−2​,xt−1​∣x0​,xt​)⋅dxt−1​=∫qσ​(xt−2​∣x0​,xt−1​)⋅qσ​(xt−1​∣x0​,xt​)⋅dxt−1​​​​

因此
μ t − 2 = E ( q σ ( x t − 2 ∣ x 0 , x t ) ) = ∫ x t − 2 ⋅ q σ ( x t − 2 ∣ x 0 , x t ) ⋅ d x t − 2 = ∫ x t − 2 ⋅ ( ∫ q σ ( x t − 2 , ∣ x 0 , x t − 1 ) ⋅ q σ ( x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 ) ⋅ d x t − 2 = ∫ ∫ x t − 2 ⋅ q σ ( x t − 2 , ∣ x 0 , x t − 1 ) ⋅ q σ ( x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 ⋅ d x t − 2 = ∫ ( ∫ x t − 2 ⋅ q σ ( x t − 2 ∣ x 0 , x t − 1 ) ⋅ d x t − 2 ) ⋅ q σ ( x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 = ∫ ( E ( q σ ( x t − 2 , ∣ x 0 , x t − 1 ) ) ⋅ q σ ( x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 = ∫ ( 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ x t − 1 + [ α t − 2 − α t − 1 ⋅ ( 1 − α t − 2 − σ t − 1 2 ) 1 − α t − 1 ] ⋅ x 0 ) ⋅ q σ ( x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 = ∫ ( 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ x t − 1 ) ⋅ q σ ( x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 + ∫ ( α t − 2 − α t − 1 ⋅ ( 1 − α t − 2 − σ t − 1 2 ) 1 − α t − 1 ) ⋅ x 0 ⋅ q σ ( x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 = 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ ∫ x t − 1 ⋅ q σ ( x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 + ( α t − 2 − α t − 1 ⋅ ( 1 − α t − 2 − σ t − 1 2 ) 1 − α t − 1 ) ⋅ x 0 ∫ q σ ( x t − 1 ∣ x 0 , x t ) ⋅ d x t − 1 ⏟ = 1 = 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ E ( q σ ( x t − 1 ∣ x 0 , x t ) ) + ( α t − 2 − α t − 1 ⋅ ( 1 − α t − 2 − σ t − 1 2 ) 1 − α t − 1 ) ⋅ x 0 = 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ ( 1 − α t − 1 − σ t 2 1 − α t ⋅ x t + [ α t − 1 − α t ⋅ ( 1 − α t − 1 − σ t 2 ) 1 − α t ] ⋅ x 0 ) + ( α t − 2 − α t − 1 ⋅ ( 1 − α t − 2 − σ t − 1 2 ) 1 − α t − 1 ) ⋅ x 0 = 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ 1 − α t − 1 − σ t 2 1 − α t ⋅ x t + 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ α t − 1 ⋅ x 0 − 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ α t ⋅ ( 1 − α t − 1 − σ t 2 ) 1 − α t ⋅ x 0 + α t − 2 ⋅ x 0 − α t − 1 ⋅ ( 1 − α t − 2 − σ t − 1 2 ) 1 − α t − 1 ⋅ x 0 = 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ 1 − α t − 1 − σ t 2 1 − α t ⋅ x t − 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ α t ⋅ ( 1 − α t − 1 − σ t 2 ) 1 − α t ⋅ x 0 + α t − 2 ⋅ x 0 ⏟ x 0 = x t − 1 − α t ⋅ z t α t = 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ 1 − α t − 1 − σ t 2 1 − α t ⋅ x t − 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ α t ⋅ ( 1 − α t − 1 − σ t 2 ) 1 − α t ⋅ x t − 1 − α t ⋅ z t α t + α t − 2 ⋅ x t − 1 − α t ⋅ z t α t = 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ 1 − α t − 1 − σ t 2 1 − α t ⋅ x t − 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ α t ⋅ ( 1 − α t − 1 − σ t 2 ) 1 − α t ⋅ x t α t + 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ α t ⋅ ( 1 − α t − 1 − σ t 2 ) 1 − α t ⋅ 1 − α t ⋅ z t α t + α t − 2 ⋅ x t − 1 − α t ⋅ z t α t = 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ α t ⋅ ⋅ ( 1 − α t − 1 − σ t 2 ) 1 − α t ⋅ 1 − α t ⋅ z t α t + α t − 2 ⋅ x t − 1 − α t ⋅ z t α t = α t − 2 ⋅ x t − 1 − α t ⋅ z t α t ⏟ = x 0 + 1 − α t − 2 − σ t − 1 2 1 − α t − 1 ⋅ 1 − α t − 1 − σ t 2 ⋅ z t = = = = = = 令所有的 σ = 0 α t − 2 ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − 2 ⋅ z t \begin{equation} \begin{split} \mu_{t-2}&=E\big(q_\sigma(x_{t-2}|x_0,x_t)\big) \\ &=\int x_{t-2} \cdot q_\sigma(x_{t-2}|x_0,x_t)\cdot dx_{t-2} \\ &=\int x_{t-2} \cdot \bigg(\int q_\sigma(x_{t-2},|x_0,x_{t-1}) \cdot q_\sigma(x_{t-1}|x_0,x_{t}) \cdot dx_{t-1} \bigg) \cdot dx_{t-2} \\ &=\int \int x_{t-2} \cdot q_\sigma(x_{t-2},|x_0,x_{t-1}) \cdot q_\sigma(x_{t-1}|x_0,x_{t}) \cdot dx_{t-1} \cdot dx_{t-2} \\ &=\int \bigg( \int x_{t-2} \cdot q_\sigma(x_{t-2}|x_0,x_{t-1}) \cdot dx_{t-2} \bigg)\cdot q_\sigma(x_{t-1}|x_0,x_{t}) \cdot dx_{t-1} \\ &=\int \bigg(E(q_\sigma(x_{t-2},|x_0,x_{t-1}) \bigg)\cdot q_\sigma(x_{t-1}|x_0,x_{t}) \cdot dx_{t-1} \\ &=\int \bigg(\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot x_{t-1}+ \bigg[\sqrt{\alpha_{t-2}}- \frac{\sqrt{ \alpha_{t-1}\cdot (1-\alpha_{t-2}-\sigma_{t-1}^2} )}{\sqrt{1-\alpha_{t-1}}} \bigg] \cdot x_0 \bigg)\cdot q_\sigma(x_{t-1}|x_0,x_{t}) \cdot dx_{t-1} \\ &=\int \bigg(\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot x_{t-1} \bigg)\cdot q_\sigma(x_{t-1}|x_0,x_{t}) \cdot dx_{t-1} + \int \bigg(\sqrt{\alpha_{t-2}}- \frac{\sqrt{ \alpha_{t-1}\cdot (1-\alpha_{t-2}-\sigma_{t-1}^2} )}{\sqrt{1-\alpha_{t-1}}} \bigg) \cdot x_0 \cdot q_\sigma(x_{t-1}|x_0,x_{t}) \cdot dx_{t-1}\\ &=\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \int x_{t-1}\cdot q_\sigma(x_{t-1}|x_0,x_{t}) \cdot dx_{t-1} +\bigg(\sqrt{\alpha_{t-2}}- \frac{\sqrt{ \alpha_{t-1}\cdot (1-\alpha_{t-2}-\sigma_{t-1}^2} )}{\sqrt{1-\alpha_{t-1}}} \bigg) \cdot x_0 \underbrace{ \int q_\sigma(x_{t-1}|x_0,x_{t}) \cdot dx_{t-1}}_{=1}\\ &=\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot E\bigg(q_\sigma(x_{t-1}|x_0,x_{t})\bigg) +\bigg(\sqrt{\alpha_{t-2}}- \frac{\sqrt{ \alpha_{t-1}\cdot (1-\alpha_{t-2}-\sigma_{t-1}^2} )}{\sqrt{1-\alpha_{t-1}}} \bigg) \cdot x_0 \\ &=\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \bigg(\sqrt{\frac{1-\alpha_{t-1}-\sigma_t^2}{1-\alpha_{t}}}\cdot x_t+ \bigg[\sqrt{\alpha_{t-1}}- \frac{\sqrt{ \alpha_t\cdot (1-\alpha_{t-1}-\sigma_t^2} )}{\sqrt{1-\alpha_t}} \bigg] \cdot x_0 \bigg) +\bigg(\sqrt{\alpha_{t-2}}- \frac{\sqrt{ \alpha_{t-1}\cdot (1-\alpha_{t-2}-\sigma_{t-1}^2} )}{\sqrt{1-\alpha_{t-1}}} \bigg) \cdot x_0 \\ &=\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \sqrt{\frac{1-\alpha_{t-1}-\sigma_t^2}{1-\alpha_{t}}}\cdot x_t + \bcancel{\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}} \cdot \sqrt{\alpha_{t-1}}\cdot x_0} -\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \frac{\sqrt{ \alpha_t\cdot (1-\alpha_{t-1}-\sigma_t^2} )}{\sqrt{1-\alpha_t}} \cdot x_0 + \sqrt{\alpha_{t-2}} \cdot x_0 - \bcancel{\frac{\sqrt{ \alpha_{t-1}\cdot (1-\alpha_{t-2}-\sigma_{t-1}^2} )}{\sqrt{1-\alpha_{t-1}}} \cdot x_0}\\ &=\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \sqrt{\frac{1-\alpha_{t-1}-\sigma_t^2}{1-\alpha_{t}}}\cdot x_t -\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \frac{\sqrt{ \alpha_t\cdot (1-\alpha_{t-1}-\sigma_t^2} )}{\sqrt{1-\alpha_t}} \cdot x_0 + \sqrt{\alpha_{t-2}} \cdot \underbrace{x_0}_{x_0=\frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}}} \\ &=\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \sqrt{\frac{1-\alpha_{t-1}-\sigma_t^2}{1-\alpha_{t}}}\cdot x_t -\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \frac{\sqrt{ \alpha_t\cdot (1-\alpha_{t-1}-\sigma_t^2} )}{\sqrt{1-\alpha_t}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{\alpha_{t-2}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} \\ &=\bcancel{\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \sqrt{\frac{1-\alpha_{t-1}-\sigma_t^2}{1-\alpha_{t}}}\cdot x_t} -\bcancel{\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \frac{\sqrt{ \alpha_t\cdot (1-\alpha_{t-1}-\sigma_t^2} )}{\sqrt{1-\alpha_t}} \cdot \frac{x_t}{\sqrt{\alpha_t}}} +\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \frac{\sqrt{ \alpha_t\cdot (1-\alpha_{t-1}-\sigma_t^2} )}{\sqrt{1-\alpha_t}} \cdot \frac{{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{\alpha_{t-2}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} \\ &=\sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \frac{\bcancel{\sqrt{\alpha_t}}\cdot \sqrt{ \cdot (1-\alpha_{t-1}-\sigma_t^2} )}{\bcancel{\sqrt{1-\alpha_t}}} \cdot \frac{{\bcancel{\sqrt{1-\alpha_t}}\cdot z_t}}{\bcancel{\sqrt{\alpha_t}}} + \sqrt{\alpha_{t-2}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} \\ &=\sqrt{\alpha_{t-2}} \cdot \underbrace{ \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}}}_{=x_0}+ \sqrt{\frac{1-\alpha_{t-2}-\sigma_{t-1}^2}{1-\alpha_{t-1}}}\cdot \sqrt{ 1-\alpha_{t-1}-\sigma_t^2} \cdot z_t \\ &\stackrel{\mathrm{令所有的\sigma=0}}{======}\sqrt{\alpha_{t-2}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{1-\alpha_{t-2}}\cdot z_t \end{split} \end{equation} μt−2​​=E(qσ​(xt−2​∣x0​,xt​))=∫xt−2​⋅qσ​(xt−2​∣x0​,xt​)⋅dxt−2​=∫xt−2​⋅(∫qσ​(xt−2​,∣x0​,xt−1​)⋅qσ​(xt−1​∣x0​,xt​)⋅dxt−1​)⋅dxt−2​=∫∫xt−2​⋅qσ​(xt−2​,∣x0​,xt−1​)⋅qσ​(xt−1​∣x0​,xt​)⋅dxt−1​⋅dxt−2​=∫(∫xt−2​⋅qσ​(xt−2​∣x0​,xt−1​)⋅dxt−2​)⋅qσ​(xt−1​∣x0​,xt​)⋅dxt−1​=∫(E(qσ​(xt−2​,∣x0​,xt−1​))⋅qσ​(xt−1​∣x0​,xt​)⋅dxt−1​=∫(1−αt−1​1−αt−2​−σt−12​​ ​⋅xt−1​+[αt−2​ ​−1−αt−1​ ​αt−1​⋅(1−αt−2​−σt−12​ ​)​]⋅x0​)⋅qσ​(xt−1​∣x0​,xt​)⋅dxt−1​=∫(1−αt−1​1−αt−2​−σt−12​​ ​⋅xt−1​)⋅qσ​(xt−1​∣x0​,xt​)⋅dxt−1​+∫(αt−2​ ​−1−αt−1​ ​αt−1​⋅(1−αt−2​−σt−12​ ​)​)⋅x0​⋅qσ​(xt−1​∣x0​,xt​)⋅dxt−1​=1−αt−1​1−αt−2​−σt−12​​ ​⋅∫xt−1​⋅qσ​(xt−1​∣x0​,xt​)⋅dxt−1​+(αt−2​ ​−1−αt−1​ ​αt−1​⋅(1−αt−2​−σt−12​ ​)​)⋅x0​=1 ∫qσ​(xt−1​∣x0​,xt​)⋅dxt−1​​​=1−αt−1​1−αt−2​−σt−12​​ ​⋅E(qσ​(xt−1​∣x0​,xt​))+(αt−2​ ​−1−αt−1​ ​αt−1​⋅(1−αt−2​−σt−12​ ​)​)⋅x0​=1−αt−1​1−αt−2​−σt−12​​ ​⋅(1−αt​1−αt−1​−σt2​​ ​⋅xt​+[αt−1​ ​−1−αt​ ​αt​⋅(1−αt−1​−σt2​ ​)​]⋅x0​)+(αt−2​ ​−1−αt−1​ ​αt−1​⋅(1−αt−2​−σt−12​ ​)​)⋅x0​=1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt​1−αt−1​−σt2​​ ​⋅xt​+1−αt−1​1−αt−2​−σt−12​​ ​⋅αt−1​ ​⋅x0​ ​−1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt​ ​αt​⋅(1−αt−1​−σt2​ ​)​⋅x0​+αt−2​ ​⋅x0​−1−αt−1​ ​αt−1​⋅(1−αt−2​−σt−12​ ​)​⋅x0​ ​=1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt​1−αt−1​−σt2​​ ​⋅xt​−1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt​ ​αt​⋅(1−αt−1​−σt2​ ​)​⋅x0​+αt−2​ ​⋅x0​=αt​ ​xt​−1−αt​ ​⋅zt​​ x0​​​=1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt​1−αt−1​−σt2​​ ​⋅xt​−1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt​ ​αt​⋅(1−αt−1​−σt2​ ​)​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+αt−2​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​=1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt​1−αt−1​−σt2​​ ​⋅xt​ ​−1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt​ ​αt​⋅(1−αt−1​−σt2​ ​)​⋅αt​ ​xt​​ ​+1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt​ ​αt​⋅(1−αt−1​−σt2​ ​)​⋅αt​ ​1−αt​ ​⋅zt​​+αt−2​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​=1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt​ ​ ​αt​ ​ ​⋅⋅(1−αt−1​−σt2​ ​)​⋅αt​ ​ ​1−αt​ ​ ​⋅zt​​+αt−2​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​=αt−2​ ​⋅=x0​ αt​ ​xt​−1−αt​ ​⋅zt​​​​+1−αt−1​1−αt−2​−σt−12​​ ​⋅1−αt−1​−σt2​ ​⋅zt​======令所有的σ=0αt−2​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+1−αt−2​ ​⋅zt​​​​
论文中跳步过程如公式（2）所示，结果貌似与论文中公式略有不同。但是，公式中的 σ t \sigma_t σt​是自定义的，因此如果我们令 σ t = 0 \sigma_t=0 σt​=0，也就是 x t x_t xt​的取值都是确定的，不存在方差了，那么就可以实现跳 2 2 2步了。这个只是均值，至于方差，既然已经令 σ t = 0 \sigma_t=0 σt​=0了，那分布 q σ ( x t − 2 ∣ x 0 , x t ) q_\sigma(x_{t-2}|x_0,x_t) qσ​(xt−2​∣x0​,xt​)的方差 σ t − 2 2 \sigma_{t-2}^2 σt−22​肯定等于 0 0 0了。跳 1 1 1步和跳 2 2 2步的分布如公式(3)所示。
跳 1 步时： x t − 1 = α t − 1 ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − 1 ⋅ z t 跳 2 步时： x t − 2 = α t − 2 ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − 2 ⋅ z t \begin{equation} \begin{split} 跳1步时：x_{t-1}&=\sqrt{\alpha_{t-1}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{1-\alpha_{t-1}}\cdot z_t\\ 跳2步时：x_{t-2}&=\sqrt{\alpha_{t-2}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{1-\alpha_{t-2}}\cdot z_t \end{split} \end{equation} 跳1步时：xt−1​跳2步时：xt−2​​=αt−1​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+1−αt−1​ ​⋅zt​=αt−2​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+1−αt−2​ ​⋅zt​​​​
结合跳 1 1 1步和 2 2 2步，我们可以推知：跳 n n n步的公式就是 q σ ( x t − n ∣ x t , x 0 ) = α t − n ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − n ⋅ z t q_\sigma(x_{t-n}|x_t,x_0)=\sqrt{\alpha_{t-n}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{1-\alpha_{t-n}}\cdot z_t qσ​(xt−n​∣xt​,x0​)=αt−n​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+1−αt−n​ ​⋅zt​，接下来用数学归纳法证明：

  1. 已经知道跳 1 1 1步时， q σ ( x t − 1 ∣ x t , x 0 ) q_{\sigma}(x_{t-1}|x_t,x_0) qσ​(xt−1​∣xt​,x0​)的分布满足公式（·）
    x t − 1 = α t − 1 ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − 1 ⋅ z t \begin{equation} \begin{split} x_{t-1}&=\sqrt{\alpha_{t-1}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{1-\alpha_{t-1}}\cdot z_t\\ \end{split} \end{equation} xt−1​​=αt−1​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+1−αt−1​ ​⋅zt​​​​
  2. 假设跳 n n n步时， q σ ( x t − n ∣ x t , x 0 ) q_{\sigma}(x_{t-n}|x_t,x_0) qσ​(xt−n​∣xt​,x0​)的分布满足公式（2）
    x t − n = α t − n ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − n ⋅ z t \begin{equation} \begin{split} x_{t-n}&=\sqrt{\alpha_{t-n}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{1-\alpha_{t-n}}\cdot z_t\\ \end{split} \end{equation} xt−n​​=αt−n​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+1−αt−n​ ​⋅zt​​​​
  3. 证明：当跳 n + 1 n+1 n+1步时，分布 q σ ( x t − n − 1 ∣ x t , x 0 ) q_{\sigma}(x_{t-n-1}|x_t,x_0) qσ​(xt−n−1​∣xt​,x0​)满足 x t − n − 1 = α t − n − 1 ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − n − 1 ⋅ z t x_{t-n-1}=\sqrt{\alpha_{t-n-1}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{1-\alpha_{t-n-1}}\cdot z_t xt−n−1​=αt−n−1​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+1−αt−n−1​ ​⋅zt​。
    由于 q σ ( x t − n − 1 ∣ x t , x 0 ) q_{\sigma}(x_{t-n-1}|x_t,x_0) qσ​(xt−n−1​∣xt​,x0​)是 q σ ( x t − n − 1 , x t − n ∣ x t , x 0 ) q_{\sigma}(x_{t-n-1},x_{t-n}|x_t,x_0) qσ​(xt−n−1​,xt−n​∣xt​,x0​)的边缘分布，因此有
    q σ ( x t − n − 1 ∣ x t , x 0 ) = ∫ q σ ( x t − n − 1 , x t − n ∣ x t , x 0 ) ⋅ d x t − n = ∫ q σ ( x t − n − 1 , ∣ x t − n , x 0 ) ⋅ q σ ( x t − n ∣ x t , x 0 ) ⋅ d x t − n \begin{equation} \begin{split} q_{\sigma}(x_{t-n-1}|x_t,x_0)&=\int q_{\sigma}(x_{t-n-1},x_{t-n}|x_t,x_0) \cdot dx_{t-n} \\ &=\int q_{\sigma}(x_{t-n-1},|x_{t-n},x_0) \cdot q_{\sigma}(x_{t-n}|x_t,x_0) \cdot dx_{t-n} \end{split} \end{equation} qσ​(xt−n−1​∣xt​,x0​)​=∫qσ​(xt−n−1​,xt−n​∣xt​,x0​)⋅dxt−n​=∫qσ​(xt−n−1​,∣xt−n​,x0​)⋅qσ​(xt−n​∣xt​,x0​)⋅dxt−n​​​​
    q σ ( x t − n − 1 , ∣ x t − n , x 0 ) = N ( x t − n − 1 ∣ 1 − α t − n − 1 1 − α t − n ⋅ x t − n + [ α t − n − 1 − α t − n ⋅ ( 1 − α t − n − 1 ) 1 − α t − n ] ⋅ x 0 , 0 ) q_{\sigma}(x_{t-n-1},|x_{t-n},x_0)=N\bigg(x_{t-n-1}|\sqrt{\frac{1-\alpha_{t-n-1}}{1-\alpha_{t-n}}}\cdot x_{t-n}+ \bigg[\sqrt{\alpha_{t-n-1}}- \frac{\sqrt{ \alpha_{t-n}\cdot (1-\alpha_{t-n-1}} )}{\sqrt{1-\alpha_{t-n}}} \bigg] \cdot x_0, 0\bigg) qσ​(xt−n−1​,∣xt−n​,x0​)=N(xt−n−1​∣1−αt−n​1−αt−n−1​​ ​⋅xt−n​+[αt−n−1​ ​−1−αt−n​ ​αt−n​⋅(1−αt−n−1​ ​)​]⋅x0​,0)
    因此，分布 q σ ( x t − n − 1 ∣ x t , x 0 ) q_{\sigma}(x_{t-n-1}|x_t,x_0) qσ​(xt−n−1​∣xt​,x0​)的均值 μ t − n − 1 \mu_{t-n-1} μt−n−1​如公式（4）所示。
    μ t − n − 1 = E ( q σ ( x t − n − 1 ∣ x t , x 0 ) ) = ∫ x t − n − 1 ⋅ q σ ( x t − n − 1 ∣ x t , x 0 ) ⋅ d x t − n − 1 = ∫ x t − n − 1 ⋅ ( ∫ q σ ( x t − n − 1 , ∣ x t − n , x 0 ) ⋅ q σ ( x t − n ∣ x t , x 0 ) ⋅ d x t − n ) ⋅ d x t − n − 1 = ∫ ∫ x t − n − 1 ⋅ q σ ( x t − n − 1 , ∣ x t − n , x 0 ) ⋅ q σ ( x t − n ∣ x t , x 0 ) ⋅ d x t − n ⋅ d x t − n − 1 = ∫ ( ∫ x t − n − 1 ⋅ q σ ( x t − n − 1 , ∣ x t − n , x 0 ) ⋅ d x t − n − 1 ) ⋅ q σ ( x t − n ∣ x t , x 0 ) ⋅ d x t − n = ∫ E ( q σ ( x t − n − 1 , ∣ x t − n , x 0 ) ) ⋅ q σ ( x t − n ∣ x t , x 0 ) ⋅ d x t − n = ∫ ( 1 − α t − n − 1 1 − α t − n ⋅ x t − n + [ α t − n − 1 − α t − n ⋅ ( 1 − α t − n − 1 ) 1 − α t − n ] ⋅ x 0 ) ⋅ q σ ( x t − n ∣ x t , x 0 ) ⋅ d x t − n = ∫ 1 − α t − n − 1 1 − α t − n ⋅ x t − n ⋅ q σ ( x t − n ∣ x t , x 0 ) ⋅ d x t − n + ∫ ( [ α t − n − 1 − α t − 1 ⋅ ( 1 − α t − n − 1 ) 1 − α t − n ] ⋅ x 0 ) ⋅ q σ ( x t − n ∣ x t , x 0 ) ⋅ d x t − n = 1 − α t − n − 1 1 − α t − n ⋅ ∫ q σ ( x t − n ∣ x t , x 0 ) ⋅ d x t − n + [ α t − n − 1 − α t − n ⋅ ( 1 − α t − n − 1 ) 1 − α t − n ] ⋅ x 0 = 1 − α t − n − 1 1 − α t − n ⋅ E ( q σ ( x t − n ∣ x t , x 0 ) ) + [ α t − n − 1 − α t − n ⋅ ( 1 − α t − n − 1 ) 1 − α t − n ] ⋅ x 0 ⏟ x 0 = x t − 1 − α t ⋅ z t α t = 1 − α t − n − 1 1 − α t − n ⋅ ( α t − n ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − n ⋅ z t ) + [ α t − n − 1 − α t − n ⋅ ( 1 − α t − n − 1 ) 1 − α t − n ] ⋅ x t − 1 − α t ⋅ z t α t = 1 − α t − n − 1 1 − α t − n ⋅ α t − n ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − n − 1 1 − α t − n ⋅ 1 − α t − n ⋅ z t + α t − n − 1 ⋅ x t − 1 − α t ⋅ z t α t − α t − n ⋅ ( 1 − α t − n − 1 ) 1 − α t − n ⋅ x t − 1 − α t ⋅ z t α t = α t − n − 1 ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − n − 1 ⋅ z t \begin{equation} \begin{split} \mu_{t-n-1}&=E\big(q_{\sigma}(x_{t-n-1}|x_t,x_0) \big)\\ &=\int x_{t-n-1}\cdot q_{\sigma}(x_{t-n-1}|x_t,x_0) \cdot dx_{t-n-1} \\ &=\int x_{t-n-1}\cdot \bigg(\int q_{\sigma}(x_{t-n-1},|x_{t-n},x_0) \cdot q_{\sigma}(x_{t-n}|x_t,x_0) \cdot dx_{t-n} \bigg) \cdot dx_{t-n-1} \\ &=\int \int x_{t-n-1}\cdot q_{\sigma}(x_{t-n-1},|x_{t-n},x_0) \cdot q_{\sigma}(x_{t-n}|x_t,x_0) \cdot dx_{t-n} \cdot dx_{t-n-1} \\ &=\int \bigg( \int x_{t-n-1}\cdot q_{\sigma}(x_{t-n-1},|x_{t-n},x_0) \cdot dx_{t-n-1}\bigg) \cdot q_{\sigma}(x_{t-n}|x_t,x_0) \cdot dx_{t-n} \\ &=\int E\big(q_{\sigma}(x_{t-n-1},|x_{t-n},x_0) \big) \cdot q_{\sigma}(x_{t-n}|x_t,x_0) \cdot dx_{t-n} \\ &=\int \bigg(\sqrt{\frac{1-\alpha_{t-n-1}}{1-\alpha_{t-n}}}\cdot x_{t-n}+ \bigg[\sqrt{\alpha_{t-n-1}}- \frac{\sqrt{ \alpha_{t-n}\cdot (1-\alpha_{t-n-1}} )}{\sqrt{1-\alpha_{t-n}}} \bigg] \cdot x_0 \bigg) \cdot q_{\sigma}(x_{t-n}|x_t,x_0) \cdot dx_{t-n} \\ &=\int \sqrt{\frac{1-\alpha_{t-n-1}}{1-\alpha_{t-n}}}\cdot x_{t-n} \cdot q_{\sigma}(x_{t-n}|x_t,x_0) \cdot dx_{t-n} + \int \bigg(\bigg[\sqrt{\alpha_{t-n-1}}- \frac{\sqrt{ \alpha_{t-1}\cdot (1-\alpha_{t-n-1}} )}{\sqrt{1-\alpha_{t-n}}} \bigg] \cdot x_0 \bigg) \cdot q_{\sigma}(x_{t-n}|x_t,x_0) \cdot dx_{t-n}\\ &=\sqrt{\frac{1-\alpha_{t-n-1}}{1-\alpha_{t-n}}}\cdot \int q_{\sigma}(x_{t-n}|x_t,x_0) \cdot dx_{t-n} + \bigg[\sqrt{\alpha_{t-n-1}}- \frac{\sqrt{ \alpha_{t-n}\cdot (1-\alpha_{t-n-1}} )}{\sqrt{1-\alpha_{t-n}}} \bigg] \cdot x_0 \\ &=\sqrt{\frac{1-\alpha_{t-n-1}}{1-\alpha_{t-n}}}\cdot E\bigg(q_{\sigma}(x_{t-n}|x_t,x_0) \bigg) + \bigg[\sqrt{\alpha_{t-n-1}}- \frac{\sqrt{ \alpha_{t-n}\cdot (1-\alpha_{t-n-1}} )}{\sqrt{1-\alpha_{t-n}}} \bigg] \cdot \underbrace{x_0}_{x_0=\frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}}} \\ &=\sqrt{\frac{1-\alpha_{t-n-1}}{1-\alpha_{t-n}}}\cdot \bigg(\sqrt{\alpha_{t-n}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{1-\alpha_{t-n}}\cdot z_t \bigg) + \bigg[\sqrt{\alpha_{t-n-1}}- \frac{\sqrt{ \alpha_{t-n}\cdot (1-\alpha_{t-n-1}} )}{\sqrt{1-\alpha_{t-n}}} \bigg] \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} \\ &=\bcancel{\sqrt{\frac{1-\alpha_{t-n-1}}{1-\alpha_{t-n}}}\cdot \sqrt{\alpha_{t-n}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} }+\sqrt{\frac{1-\alpha_{t-n-1}}{\bcancel{1-\alpha_{t-n}}}}\cdot \bcancel{\sqrt{1-\alpha_{t-n}}}\cdot z_t + \sqrt{\alpha_{t-n-1}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} - \bcancel{\frac{\sqrt{ \alpha_{t-n}\cdot (1-\alpha_{t-n-1}} )}{\sqrt{1-\alpha_{t-n}}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}}} \\ &=\sqrt{\alpha_{t-n-1}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{1-\alpha_{t-n-1}}\cdot z_t \end{split} \end{equation} μt−n−1​​=E(qσ​(xt−n−1​∣xt​,x0​))=∫xt−n−1​⋅qσ​(xt−n−1​∣xt​,x0​)⋅dxt−n−1​=∫xt−n−1​⋅(∫qσ​(xt−n−1​,∣xt−n​,x0​)⋅qσ​(xt−n​∣xt​,x0​)⋅dxt−n​)⋅dxt−n−1​=∫∫xt−n−1​⋅qσ​(xt−n−1​,∣xt−n​,x0​)⋅qσ​(xt−n​∣xt​,x0​)⋅dxt−n​⋅dxt−n−1​=∫(∫xt−n−1​⋅qσ​(xt−n−1​,∣xt−n​,x0​)⋅dxt−n−1​)⋅qσ​(xt−n​∣xt​,x0​)⋅dxt−n​=∫E(qσ​(xt−n−1​,∣xt−n​,x0​))⋅qσ​(xt−n​∣xt​,x0​)⋅dxt−n​=∫(1−αt−n​1−αt−n−1​​ ​⋅xt−n​+[αt−n−1​ ​−1−αt−n​ ​αt−n​⋅(1−αt−n−1​ ​)​]⋅x0​)⋅qσ​(xt−n​∣xt​,x0​)⋅dxt−n​=∫1−αt−n​1−αt−n−1​​ ​⋅xt−n​⋅qσ​(xt−n​∣xt​,x0​)⋅dxt−n​+∫([αt−n−1​ ​−1−αt−n​ ​αt−1​⋅(1−αt−n−1​ ​)​]⋅x0​)⋅qσ​(xt−n​∣xt​,x0​)⋅dxt−n​=1−αt−n​1−αt−n−1​​ ​⋅∫qσ​(xt−n​∣xt​,x0​)⋅dxt−n​+[αt−n−1​ ​−1−αt−n​ ​αt−n​⋅(1−αt−n−1​ ​)​]⋅x0​=1−αt−n​1−αt−n−1​​ ​⋅E(qσ​(xt−n​∣xt​,x0​))+[αt−n−1​ ​−1−αt−n​ ​αt−n​⋅(1−αt−n−1​ ​)​]⋅x0​=αt​ ​xt​−1−αt​ ​⋅zt​​ x0​​​=1−αt−n​1−αt−n−1​​ ​⋅(αt−n​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+1−αt−n​ ​⋅zt​)+[αt−n−1​ ​−1−αt−n​ ​αt−n​⋅(1−αt−n−1​ ​)​]⋅αt​ ​xt​−1−αt​ ​⋅zt​​=1−αt−n​1−αt−n−1​​ ​⋅αt−n​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​ ​+1−αt−n​ ​1−αt−n−1​​ ​⋅1−αt−n​ ​ ​⋅zt​+αt−n−1​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​−1−αt−n​ ​αt−n​⋅(1−αt−n−1​ ​)​⋅αt​ ​xt​−1−αt​ ​⋅zt​​ ​=αt−n−1​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+1−αt−n−1​ ​⋅zt​​​​
    证毕。综上所述，跳 n n n步的公式为 q σ ( x t − n ∣ x t , x 0 ) = α t − n ⋅ x t − 1 − α t ⋅ z t α t + 1 − α t − n ⋅ z t q_\sigma(x_{t-n}|x_t,x_0)=\sqrt{\alpha_{t-n}} \cdot \frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}} + \sqrt{1-\alpha_{t-n}}\cdot z_t qσ​(xt−n​∣xt​,x0​)=αt−n​ ​⋅αt​ ​xt​−1−αt​ ​⋅zt​​+1−αt−n​ ​⋅zt​
    殊途同归，种采样方法就是先预测出 x 0 x_0 x0​，然后使用 q σ ( x t ∣ x 0 ) q_\sigma(x_t|x_0) qσ​(xt​∣x0​)来计算对应的 x t x_t xt​
    基于DDIM的多数论文，例如暗图像增强方法LightenDiffusion等，也都是令 σ t = 0 \sigma_t=0 σt​=0。论文和代码中使用的跳 n n n步的采样过程如公式（5）所示。
    x t − n = α t − n ⋅ x t − 1 − α t ⋅ z t α t ⏟ 预测出 z t , 进而计算出 x 0 + 1 − α t − n − σ t 2 ⋅ z t + σ t 2 ϵ t ⏟ 标准高斯分布 \begin{equation} \begin{split} x_{t-n}&=\sqrt{\alpha_{t-n}}\cdot \underbrace{\frac{x_t-{\sqrt{1-\alpha_t}\cdot z_t}}{\sqrt{\alpha_t}}}_{预测出z_t,进而计算出x_0}+\sqrt{1-\alpha_{t-n}-\sigma_t^2}\cdot z_t + \sigma_t^2 \underbrace{ \epsilon_t}_{标准高斯分布} \\ \end{split} \end{equation} xt−n​​=αt−n​ ​⋅预测出zt​,进而计算出x0​ αt​ ​xt​−1−αt​ ​⋅zt​​​​+1−αt−n​−σt2​ ​⋅zt​+σt2​标准高斯分布 ϵt​​​​​​
扩散模型+CV与NLP科研笔记专栏文章汇总：【Diffusion Models】
zik的博客
04-04 5258
CLIP是一个多模态的大模型，用了4亿个（图像、文本）对进行对比学习，学习之后可以直接进行zero-shot推理，并且不需要像ImageNet那样标注1000个类，而是可以人为给出文本提示，进行图片和文本之间的相似度计算，而且迁移效果很好。那么基于此，提出了Classifier-Free Diffusion Guidance，后续非常多的工作都是基于其来进行的，例如DALL·E 2、Imagen等吸引人眼球的模型基本上都是以它为基础做的。直接用训练好的非条件的扩散模型，无需重复训练。
【图像去噪（Image Denoising）】关于【图像去噪】专栏的相关说明，包含适配人群、专栏简介、专栏亮点、阅读方法、定价理由、品质承诺、关于更新、去噪概述、文章目录、资料汇总、问题汇总（更新中）
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
01-14 1万+
你是否在全网苦寻【图像去噪（ImageDenoising）】的相关资料？你的目标是否是看懂【图像去噪（ImageDenoising）】的相关论文，复现代码，跑出结果，并试图创新？你是否需要发表【图像去噪（ImageDenoising）】的相关论文毕业？你是否需要做【图像去噪（ImageDenoising）】的相关项目，开发软件，研究算法，获得专利或者软著？只要是与【图像去噪（ImageDenoising）】有关的问题，那么请继续往下看。
扩散模型的具体类型——Denoising Diffusion Implicit Models (DDIM)
DuHz的博客
11-12 954
Denoising Diffusion Implicit Models（DDIM）是一种扩散模型的变体，旨在提高生成过程的效率和灵活性。与传统的Denoising Diffusion Probabilistic Models（DDPM）相比，DDIM通过引入确定性的逆向过程，实现了更快的采样速度，同时保持了生成样本的高质量。DDIM不仅在采样效率上有所提升，还提供了更灵活的生成控制方式，使其在图像生成、语音合成等领域具有广泛的应用前景。
一文详解Denoising Diffusion Implicit Models（DDIM）
chase
07-31 5887
一文详解Denoising Diffusion Implicit Models（DDIM）
【DDIM】Denoising Diffusion Implicit Models
2201_75801514的博客
10-10 1329
去噪扩散概率模型（DDPMs）无需对抗训练即可生成高质量图像，但它们需要模拟马尔可夫链的多个步骤才能生成样本。为了加快采样速度，我们提出了去噪扩散隐含模型（DDIMs），这是一类更高效的迭代隐含概率模型，其训练过程与 DDPMs 相同。在 DDPMs 中，生成过程被定义为特定马尔可夫扩散过程的反向。我们通过一类能达到相同训练目标的非马尔可夫扩散过程来推广 DDPMs。这些非马尔可夫过程可以对应于确定性的生成过程，从而产生能更快地生成高质量样本的隐式模型。
002_SSSS_ Denoising Diffusion Implicit Models
D_Trump的博客
06-24 3504
Denoising Diffusion Implicit Models 笔记
[Diffusion Model 笔记]DDIM 笔记 数学推导 Denoising Diffusion Implicit Models
YuQiao0303的博客
04-25 2017
DDIM只是一个采样的算法，其训练和DDPM是一样的。DDIM在推导采样公式时，没有用DDPM中q(xt|xt-1)的条件；同时把一个高斯噪声可以换成随机高斯噪声和预测的噪声的加权和，其中σk\sigma_kσk​是一个超参数，控制二者的权重xsαˉsx0∣k1−α‾s−σk2ϵθσkϵxs​αˉs​​x0∣k​1−αs​−σk2​​ϵθ​σk​ϵx0∣k1αˉk。
DENOISING DIFFUSION IMPLICIT MODELS 论文笔记
weixin_46872424的博客
01-12 1256
相较于DDPM来说，DDIM更具更加确定性的结果，并且可以减少一定的计算时间。DDPM是可以通过改变一定的参数比如论文中的是可以互相转化的，其实也提供了另外一种模型的思路，比如也可以只用DDIM中论文的一部分来减少DDPM模型的计算时间，或者直接应用DDIM在参数上改变，看看能否对超分辨或者图像降噪等问题有新的实验发现。注意：DDIM只是在重建阶段使用，Unet训练的参数和DDPM是一样的，也就是说是通过DDPM训练参数得到的Unet模型应用到DDIM上的，这点是不变的。
【论文阅读】CRoSS: Diffusion Model Makes Controllable, Robust and Secure Image Steganography
生命不息，代码不止
12-19 1241
提出了一种新颖的图像隐写框架，称为可控、鲁棒和安全图像隐写 (CRoSS)，与基于封面的图像隐写方法相比，它在可控性、鲁棒性和安全性方面具有显著优势。这些好处无需额外训练即可获得。据我们所知，这是首次将扩散模型引入图像隐写领域的工作。代码可在上找到。**传统方法的不足：**目前的图像隐写技术主要集中在基于封面的方法上，这些方法通常存在泄露秘密图像的风险，并且对退化的容器图像的鲁棒性较差。$ X_{sec}隐藏在隐藏在隐藏在X_{cont}中，经过互联网传输后，从中，经过互联网传输后，从。
【论文阅读】Diffusion Policy: Visuomotor Policy Learning via Action Diffusion
qq_33673253的博客
09-26 4209
本文介绍了扩散策略，这是一种通过将机器人的视觉运动policy表示为条件去噪扩散过程来生成机器人行为的新方法。我们对来自 4 个不同的机器人操作基准的 15 个不同任务的扩散策略进行了基准测试，发现它始终优于现有的 state-of-the-art 机器人学习方法，平均提高了 46.9%。扩散策略学习动作分布评分函数的梯度，并通过一系列随机朗之万动力学步骤在推理过程中针对该梯度场迭代优化。
深度学习（生成式模型）——DDIM：Denoising Diffusion Implicit Models
菜到怀疑人生的博客
10-30 6551
上一篇博文介绍了DDIM的前身DDPM。DDPM的反向过程与前向过程步数一一对应，例如前向过程有1000步，那么反向过程也需要有1000步，这导致DDPM生成图像的效率非常缓慢。本文介绍的DDIM将降低反向过程的推断步数，从而提高生成图像的效率。值得一提的是，DDIM的反向过程仍然是马尔可夫链，但论文里有讨论非马尔可夫链的生成模型。本博文只总结DDIM如何提高DDPM的生成图像效率。
【DDIM】Denoising Diffusion Implicit Models 从原理到实战
weixin_45897172的博客
10-30 1665
上一篇博文我们详细讲解了扩散模型的基石DDPM ，并且给出了代码讲解，有不了解的小伙伴可以跳转到前面先学习一下（今天我们再来介绍下DDPM的改进版本。DDPM虽然对生成任务带来了新得启发，但是他有一个致命的缺点，就是推理速度比较慢，这就导致实际工业应用中很难落地。
从DDPM到DDIM：深入解读《Denoising Diffusion Implicit Models》
沉迷单车的追风少年
07-10 1万+
DDIM发表在ICRL2021上，是DDPM重要的改进之一，能显著提高DDPM的样本质量、减少采样时间，并且能显式控制插值，已经被广泛应用到现在的Diffusion Models上。这篇博客和大家一起详细解读一下DDIM，认识这一伟大的模型。.........
Denoising diffusion implicit models 阅读笔记
icylling的专栏
09-21 715
Denoising diffusion probabilistic models (DDPMs)从马尔科夫链中采样生成样本，需要迭代多次，速度较慢。Denoising diffusion implicit models (DDIMs)的提出是为了加速采样过程，减少迭代的次数，并且要求DDIM可以复用DDPM训练的网络。
Denoising Diffusion Implicit Models (DDIM)
智能守恒_HengAI
02-28 1307
因为扩散模型的正向过程可以实现跳步，其马尔科夫性并不重要，因此DDIM尝试在反向过程中也舍弃马尔科夫性的约束。在引入一个可控参数σt\sigma_tσt​后，反向过程的迭代被整理为预测x0x_0x0​后重新进行正向扩散的过程，扩散时使用的噪声为新初始化噪声与上一步预测噪声的加权，在特定σ\sigmaσ选择下，可以导出DDPM的采样过程和新的确定性的采样过程，并且使得反向过程同样支持跳步。在DDPM中，反向过程的损失函数是根据马尔科夫性推导得出的，而虽然正向过程也是马尔科夫链，但是因为高斯分布的可加性，其完全
DDIM原理及代码(Denoising diffusion implicit models)
热门推荐
andy dennis的博客
12-22 2万+
之前学习了 DDPM和 IDDPM， 这次又来学习另一种重要的扩散模型。它的采样速度比DDPM快很多(respacing)，扩散过程不依赖马尔科夫链。
直播预告 | ICLR专场六
AITIME_HY的博客
06-08 489
点击蓝字关注我们AI TIME欢迎每一位AI爱好者的加入！6月9日晚7:30-9:00AI TIME特别邀请了三位优秀的讲者跟大家共同开启ICLR专场六！哔哩哔哩直播通道扫码关注AITIM...
【论文阅读】基于表面肌电信号的下肢多关节运动估计：一种深度卷积神经网络方法
qq_60423839的博客
08-14 1155
本文提出一种基于多通道表面肌电信号(sEMG)和深度卷积神经网络(CNN)的下肢多关节运动估计方法。研究采集了骑行和步行任务中的7通道sEMG信号，通过带通滤波、全波整流等预处理后构建CNN模型，用于估计髋、膝、踝关节角度。实验结果表明，所提CNN模型在骑行任务中三个关节的估计均方根误差分别为3.8886°、2.8199°和3.1148°，精度显著优于传统BPNN和RBFNN模型。该研究为下肢康复外骨骼的人机交互控制提供了理论基础，未来将探索sEMG时频特征对模型的影响及非理想环境下的意图识别问题。
【论文阅读69】-DeepHGNN复杂分层结构下的预测
最新发布
wangshangshang09的博客
08-18 356
这篇论文提出的 **DeepHGNN** 框架，把层级时间序列预测问题转化为图学习问题，通过 **图神经网络 + 层级插值 + 端到端一致性** 来提升预测精度和层级一致性，在实验中优于现有方法。
DENOISING DIFFUSION IMPLICIT MODELS
02-26
### DDIM概述 去噪扩散隐式模型(DDIM)是一种用于生成建模的技术，它通过引入一种新的采样方法来加速传统扩散模型的推理过程[^4]。DDIM不仅保持了高质量图像生成的能力，还显著提高了效率。 #### 工作原理 在标准的去噪扩散概率模型(DDPM)中，数据逐渐被噪声破坏的过程遵循马尔可夫链，在每一步都加入一定的随机性。然而对于DDIM而言，其核心特点在于允许更灵活地控制这个过程中添加的噪音量。具体来说，当条件满足时，随机项变为零，这意味着整个过程变得完全确定istic而非概率性的[^3]。因此，相比于传统的DDPM, DDIM能够在较少的时间步内完成相似质量的结果生成。 #### 数学表达 DDIM的核心概念可以通过一系列方程描述出来： - 设定初始分布\(q(\mathbf{x}_T)\)，其中\(\mathbf{x}_T\)表示经过T次迭代后的含噪输入； \[ q(\mathbf{x}_{t}|\mathbf{x}_{t-1})=\sqrt{\alpha_t}\mathbf{x}_{t-1}+\sqrt{1-\alpha_t}\epsilon \] 这里,\(\alpha_t\)代表衰减因子而\(\epsilon\)则服从标准正态分布N(0,I). - 对于逆向过程，则定义为: \[ p_\theta (\mathbf{x}_{t-1} | \mathbf{x}_t)=\mathcal N (\mu_{\theta}, \Sigma ) \] 其中参数化的均值函数\(\mu _ {\ theta }\) 和协方差矩阵Σ决定了如何从加噪状态恢复原始信号. ```python import torch.nn as nn class DDIM(nn.Module): def __init__(self, beta_schedule='linear', timesteps=1000): super().__init__() self.timesteps = timesteps # Define the schedule of betas & alphas according to given scheme. if beta_schedule == 'linear': self.betas = ... self.alphas = ... def forward(self, x_T, eta=0): # eta controls randomness; set to zero for deterministic sampling """Sample from p(x_0|x_T).""" mu_theta = ... # Compute mean based on current state and model parameters sigma_squared = ... * eta ** 2 # Control variance by adjusting eta value return mu_theta + torch.sqrt(sigma_squared) * torch.randn_like(mu_theta) ``` 上述代码片段展示了简化版的DDIM实现框架，重点在于`forward()`函数内部逻辑——即如何利用给定时间戳下的信息以及eta超参调节最终输出结果中的不确定性程度[^1].
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值