【Diffusion】Denoising Diffusion Probabilistic Models (DDPM)小白入门指南

已于 2025-01-14 10:39:57 修改
阅读量611 收藏 11
点赞数 12
分类专栏： 医疗影像 文章标签： 人工智能 DDPM Diffusion 生成模型
于 2025-01-08 09:51:50 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/lj2048/article/details/144913037
版权

目录

1、简介

2、生成式AI扩散模型-Diffusion Model

Denoising Diffusion Probabilistic Models

一、Diffusion的基本概念和运作方法

1.Diffusion Model是如何运作的？

2.Denoise模块内部正在做的事情

3. 如何训练Noise predictor？

4.Text-to-Image

5.两个Algorithm

​编辑

二、Diffusion Framework

1.Framework

①Text Encoder：将文字输入encoder为向量

②Generation Model：输入一个噪声，得到图片的压缩版本

③Decoder：压缩的版本还原为原来的图片

2. Stable Diffusion

​编辑3.DALL-E series

​编辑4.Imagen (Google)

三、Diffusion Model数学原理剖析（1）

 Algorithm1 Training

Algorithm2 Sampling

四、Diffusion Model数学原理剖析（2）

1.影像生成模型本质上的共同目标

2.Maximum Likelihood Estimation

An In-Depth Guide to Denoising Diffusion Probabilistic Models DDPM

1.前言

2.什么是扩散生成模型

2.1前向扩散

2.2反向扩散

3.扩散模型的数学细节

3.1 前置知识

3.2 总览

3.3 前向扩散

3.4 反向扩散

3.5 训练目标和损失函数

The Illustrated Stable Diffusion

引语

Stable Diffusion的组成

文本编码器（Text Encoder）

图像信息生成器（Image Information Generator）

图像解码器（Image Decoder）

组成小结 

Schedulers

何为Diffusion

Diffusion 介绍

Diffusion 的工作原理--扩散如何运作

通过逐步移除噪声以生成图像

潜空间 Diffusion 以进行加速计算--速度提升：使用潜在数据而不是像素图像的扩散

Text Encoder：Transformer 语言模型

CLIP 训练

文本信息送入图像生成过程

Unet 噪声预测器的层（无文本）

带文本的 Unet 噪声预测器层

3、参考

1、简介

扩散模型（Diffusion Models）发表以来其实并没有收到太多的关注，因为他不像 GAN 那样简单粗暴好理解。不过最近这几年正在生成模型领域异军突起，当前最先进的两个文本生成图像——OpenAI 的 DALL·E 2和 Google 的 Imagen，都是基于扩散模型来完成的。

 text-to

了解本专栏 订阅专栏 解锁全文 超级会员免费看
AI：296-从Denoising Diffusion Probabilistic Models (DDPM)到Latent Diffusion Models (LDM)：扩散模型的演变
一键难忘的博客
09-15 3283
这篇文章从扩散模型的起源到当前的演进过程，详细探讨了从到的发展历程。DDPM作为一种创新的生成模型，通过逐步去噪的方式生成高质量数据，但其效率较低，特别是在处理高分辨率图像时需要耗费大量的计算资源。而LDM通过将扩散过程压缩到潜在空间中，极大提高了计算效率，同时保持了生成质量的优势。文章通过代码实例深入剖析了LDM的结构，包括潜在空间编码、动态扩散步骤控制、反向扩散算法以及潜在空间的细粒度控制。
Diffusion Model相关论文解析之(一)Denoising Diffusion Probabilistic Models
m0_37737957的博客
08-17 499
1、摘要 2、创新点 3、主要公式 4、主要实现过程
Denoising Diffusion Probabilistic Models（DDPM）保姆级解析——附代码实现
chase
07-29 2586
Diffusion Model（DDPM）保姆级解析——附代码实现
[论文精读]Denoising Diffusion Probabilistic Models
m0_52911108的博客
09-22 1301
DDPM模型通过马尔可夫链反向去噪过程实现了高质量的图像生成，并在生成任务中展示了优异的性能。
论文阅读：Denoising Diffusion Probabilistic Models
Matrix-11
06-11 1883
在 AE 之后，出现了 DAE，也就是 Denoising Autoencoder，DAE 与 AE 的流程也非常类似，唯一的区别在于编码器的输入，AE 的编码器的输入是原始的高维向量，而 DAE 的编码器的输入是对原始高维向量加入噪声扰动之后的高维向量，DAE 就是希望把加了噪声的高维向量恢复成原始的高维向量，这个过程有点像是对高维向量去噪，所以就叫 Denoising Autoencoder。是从原始图像分布中抽取的一个初始样本，然后每次叠加少量的噪声，生成一系列的带噪图像，扩散与采样过程的程序。
【Paper Notes】Denoising Diffusion Probabilistic Models
S_Kross的博客
11-07 1043
Diffusion Model 简要理解学习，不需要复杂的数学过程。
Denoising Diffusion Probabilistic Models (DDPM)
MTandHJ的博客
12-16 4178
文章目录概主要内容Diffusion modelsreverse processforward process变分界损失求解LtL_{t}Lt​L0L_0L0​最后的算法参数代码 Ho J., Jain A. and Abbeel P. Denoising diffusion probabilistic models. In Advances in Neural Information Processing Systems (NIPS), 2020. [Page E. Approximating to
Denoising Diffusion Probabilistic Models
zcg1942的博客
03-09 840
这篇文章就是所谓的DDPM前向扩散过程之和前一步有关，是一阶马尔可夫链，是图像和标准高斯噪声I的加权，认为方差全部来自I，并且多步可以通过连乘合并为一步：反向的过程也是类似的形式：并且由贝叶斯公式，并且贝叶斯中三个概率都是高斯分布，可以得到：首先明确扩散时的一步转移公式。表现形式为信号以某一系数进行衰减，同时加一个高斯噪声（高斯噪声为加性信号无关的高斯噪声）。因为本质就是信号与高斯噪声的alpha blending，所以就需要考虑权重的选择。特别的是前一个状态的信号 和噪声的权重之和不是1，而是他们两个平
Improved Denoising Diffusion Probabilistic Models.pdf
05-18
Improved Denoising Diffusion Probabilistic Models（DDPM）是一类生成模型，它最近被证明可以生成高质量的样本。 DDPMs 通过学习反向扩散过程的方差，可以以几乎相同的样本质量实现多个数量级的前向传递减少，这对...
【论文阅读笔记】DDPM: Denoising Diffusion Probabilistic Models
weixin_62636846的博客
10-30 1113
Qxt​∣xt−1​前排提示：本片笔记纯属自己写给自己看，里面有不少自己的理解和引用，如有侵权请删除联系：对一张已有的图片先进行前向加噪，通过概率论数学推导发现反向生成需要预测噪声，所以让一个神经网络去学习这个加噪过程的规律，之后取一个随机噪音，结合这个网络进行逐步去噪完成反向生成题外话：怎么生成服从高斯分布的数据 （设U1​U2​相互独立且服从均匀分布U01，令R−2logU1​​θ2πU2​,则XRcosθYRs。
小白读论文——Denoising Diffusion Probabilistic Model 以及 代码理解
weixin_74479558的博客
08-22 1171
下一时刻的图像是由上一时刻的图像加上噪音得到的xtβt×ϵt1−βt×xt−1xt​βt​​×ϵt​1−βt​​×xt−1​xtx_txt​ttt时刻的图像ϵt\epsilon_tϵt​ttt时刻随机生成的噪声图像βt\beta_tβt​:是提前准备好的常数，不同时刻的值不同，随着ttt的增大而增大，因此表明越到后面，加的噪音越多。
DDPM（Denoising Diffusion Probabilistic Models）
一个搬运知识的笨小孩
07-02 908
DDPM推导以及代码实现
DDPM( Denoising Diffusion Probabilistic Model )
weixin_43269419的博客
07-20 3774
介绍 DDPM( Denoising Diffusion Probabilistic Model )的算法原理
【DDPM】Denoising Diffusion Probabilistic Models
2201_75801514的博客
10-10 932
我们介绍了利用扩散概率模型获得的高质量图像合成结果，扩散概率模型是一类受非平衡态热力学启发的潜在变量模型。我们的最佳结果是通过在加权变分约束上进行训练获得的，而加权变分约束是根据扩散概率模型和去噪分数匹配与朗格文动力学之间的新联系设计的。在无条件的 CIFAR10 数据集上，我们获得了 9.46 分的入门分数和 3.17 分的先进 FID 分数。在 256x256 LSUN 上，我们获得了与 ProgressiveGAN 类似的样本质量。
DDPM--Denoising Diffusion Probabilistic Models
zephyr_wang的博客
08-21 2223
本文根据2020年《Denoising Diffusion Probabilistic Models》翻译总结的，即DDPM，去噪扩散概率模型。
001_SSSSS_ Denoising Diffusion Probabilistic Models
D_Trump的博客
06-23 801
DDPM阅读笔记
【论文笔记】Denoising Diffusion Probabilistic Models
xhyu61的博客
11-11 566
我看见你竭尽全力地奔跑,只为了当初兑现当初许下的约定。我才确信，你想要的，从始至终都是和我在一起的未来。——《崩坏3》德莉莎·阿波卡利斯(月下誓约·予爱以心)
[论文解析] Denoising Diffusion Probabilistic Models
Joselynzhao
12-10 1217
扩散概率模型(为方便起见，我们将其称为“扩散模型”)是一种参数化的马尔可夫链，使用变分推理训练产生有限时间后与数据匹配的样本。学习该链的跃迁来逆转扩散过程，这是一个马尔可夫链，逐步向采样的相反方向的数据添加噪声，直到信号被破坏。当扩散由少量高斯噪声组成时，将采样链跃迁设置为条件高斯也就足够了，允许特别简单的神经网络参数化。
Stable Diffusion和ddpm
最新发布
03-19
### Stable Diffusion 与 DDPM 的关系及差异 #### 背景概述 Stable Diffusion (SD) 和 Denoising Diffusion Probabilistic Models (DDPM) 都属于扩散模型家族，其核心思想是从高斯噪声逐步生成清晰图像的过程。然而，两者在架构设计、计算效率和应用领域等方面存在显著区别。 #### 原理对比 DDPM 是一种基础性的扩散模型框架，通过一系列前向过程将输入数据逐渐转化为纯噪声，并利用反向过程学习如何从噪声中重建原始数据[^3]。具体而言，它采用了一个简单的 U-Net 结构来实现这一目标[^2]。而 Stable Diffusion 则是在 LDM（Latent Diffusion Model）的基础上进一步优化的结果，不仅继承了 DDPM 的基本理念，还引入了潜在空间的概念，从而大幅提升了性能和灵活性[^1]。 #### 计算复杂度与效率 由于 SD 将操作限定于低维的潜在空间而非像素级表示，因此相比直接作用于高分辨率图片上的 DDPM，它的训练成本更低且推理速度更快。这种转换使得复杂的艺术风格迁移或者超现实主义作品生成成为可能的同时保持较高的实时性需求满足能力。 #### 应用场景分析 当涉及到大规模文本条件下的高质量视觉内容生产时, 如照片编辑、插画绘制等领域，则更倾向于选择功能强大但资源消耗相对较大的解决方案——即StableDiffusion；而对于那些只需要简单二值化处理或是特定模式识别任务来说，原版未经改造的标准版本DDPM或许已经足够胜任相应工作负载的要求. ```python import torch from diffusers import UNet2DModel model = UNet2DModel( sample_size=32, in_channels=3, out_channels=3, layers_per_block=2, block_out_channels=(128, 128), downsample_padding=1, ) noise = torch.randn((1, model.in_channels, model.sample_size, model.sample_size)) timestep = torch.tensor([10]) output = model(noise, timestep).sample print(output.shape) ``` 上述代码片段展示了如何定义并调用一个标准形式化的二维卷积神经网络实例来进行初步测试验证实验环境搭建情况. ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

静静喜欢大白

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值