【AI理论学习】深入理解扩散模型：Diffusion Models（DDPM）（理论篇）

最新推荐文章于 2025-05-24 15:13:09 发布
最新推荐文章于 2025-05-24 15:13:09 发布
阅读量4.1k 收藏 50
点赞数 7
CC 4.0 BY-SA版权
分类专栏： 深度学习与机器学习 文章标签： 人工智能 学习 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/ARPOSPF/article/details/129628273
本文深入探讨扩散模型（Diffusion Models），包括前向扩散和反向生成过程，以及DDPM的原理和优化目标。与GAN相比，扩散模型训练更稳定，能生成多样样本。文章还介绍了模型设计、代码实现，并提及Stable Diffusion、DALL-E、Imagen等应用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

深入理解扩散模型：Diffusion Models


本文综合最近阅读的关于扩散模型的一些基础博客和文章整理而成。主要参考的内容来自 Calvin Luo 的论文，针对的对象主要是对扩散模型已经有一些基础了解的读者。

引言

继OpenAI在2021提出的文本转图像模型DALLE之后，越来越多的大公司卷入这个方向，例如谷歌相继推出了Imagen和Parti。一些主流的文本转图像模型，例如DALL·E 2，stable-diffusion和Imagen采用了扩散模型（Diffusion Model）作为图像生成模型，这也引发了对扩散模型的研究热潮。

与GAN相比，扩散模型训练更稳定，而且能够生成更多样的样本，OpenAI的论文Diffusion Models Beat GANs on Image Synthesis也证明了<font color='red>扩散模型能够超越GAN。
Diffusion Models Beat GANs on Image Synthesis
论文地址&#

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【AI理论学习】手把手推导扩散模型：Diffusion Models（DDPM）
小哲的博客
08-10 1103
生成扩散模型DDPM如下图所示分为前向、逆向两个过程，它首先通过不断往原始清晰数据中添加噪声使其变成标准高斯噪声（前向过程），而后期望从标准高斯噪声中还原原始数据（逆向过程）。若能实现，那便可从已知的标准高斯分布中采样一个噪声数据，而后利用DDPM模型生成符合原始数据分布的新数据。 Diffusion模型包含两个过程：数学符号：y∝xy\propto xy∝x：y正比于x，即y随着x增大而线性增大。 条件概率：贝叶斯公式：p(A∣B)=p(B∣A)×p(A)p(B)p(A|B)=\frac{p(B|A)\
AI：296-从Denoising Diffusion Probabilistic Models (DDPM)到Latent Diffusion Models (LDM)：扩散模型的演变
一键难忘的博客
09-15 3402
这篇文章从扩散模型的起源到当前的演进过程，详细探讨了从到的发展历程。DDPM作为一种创新的生成模型，通过逐步去噪的方式生成高质量数据，但其效率较低，特别是在处理高分辨率图像时需要耗费大量的计算资源。而LDM通过将扩散过程压缩到潜在空间中，极大提高了计算效率，同时保持了生成质量的优势。文章通过代码实例深入剖析了LDM的结构，包括潜在空间编码、动态扩散步骤控制、反向扩散算法以及潜在空间的细粒度控制。
VDM Variational Diffusion Models
weixin_44966641的博客
06-06 1321
本文定义了信噪比函数SNRtαt2σt2SNRtαt2​σt2​，从变分下界的角度推导了扩散模型的损失函数。并对其中的扩散损失项在离散时间情形和连续时间情形下进行了推导，结合信噪比函数得出了一个极简洁的形式。进一步地，作者推导出在连续时间情形下，扩散模型规格（以 SNR 的形式）对扩散损失的影响仅体现在t0t=0t0和t1t=1t1两处端点上，而与中间的αtσtαt​σt​。
AI入门 | 十分钟了解当前热门的扩散模型（Diffusion Model）
weixin_45768262的博客
12-01 1135
什么是扩散？ 什么是扩散模型？ 扩散模型是如何工作的？
生成模型——扩散模型（Diffusion Model）
最新发布
大摆王的博客
05-24 1886
扩散模型（Diffusion Model）是一种生成模型，主要用于图像生成等任务。它的基本原理源于扩散过程的物理概念，通过最小化去噪过程中的重建损失（通常使用均方误差）来训练模型，以使生成的图像尽可能接近真实图像，其通过模拟数据从高维空间到低维空间的逐步去噪过程，实现生成新的样本。其常用的网络架构包括UNet等，它们能够有效地处理图像生成任务，利用跳跃连接（skip connections）保留不同层次的特征信息。
SDE DPM (随机微分方程导出的diffusion model)
weixin_40248634的博客
11-11 856
score matching vs SDE
【人工智能前沿弄潮】——生成式AI系列：扩散模型及稳定扩散模型
qq_43456016的博客
08-11 2253
与GAN 利用生成器和判别器进行对抗训练来生成图像不同，扩散模型则是通过对生成的随机噪声进行循环去噪来生成图像，就有点像雕刻一样，一块原石，随着大师一点一点地去除掉多余的部分，剩下的就是完美的艺术品。所使用的随机噪声需要和生成的目标图像具有相同的高宽。在扩散模型的去噪过程中，去噪的步骤数（step）是人工提前定好的，如1000等。这个step不仅是步骤数，也代表着噪声的严重程度信息。并且每次去噪所的Denoise 模块是同一个，进行反复使用。
【diffusion】扩散模型详解！理论＋代码
热门推荐
m0_63642362的博客
10-29 5万+
【diffusion】扩散模型详解！
2022图像翻译/扩散模型：UNIT-DDPM: UNpaired Image Translation with Denoising Diffusion Probabilistic Models
ssshyeong的博客
10-11 9577
我们提出了一种新的无配对图像间翻译方法，该方法使用去噪扩散概率模型而不需要对抗训练。我们的方法，UNpaired Image Translation with Denoising Diffusion Probabilistic Models(UNIT-DDPM)，训练一个生成模型，通过最小化另一个域条件下的去噪分数匹配目标，推断图像在两个域上的联合分布作为马尔可夫链。
Diffusion 扩散模型（DDPM）
qq_74722169的博客
06-17 2259
扩散模型（Diffusion Models）是一类基于概率和马尔科夫链的生成模型，通过逐步添加和去除噪声实现数据生成。以下是扩散模型的主要特点、工作原理、优势和应用领域的总结。
大模型 | 基于Transformer架构的扩散模型
star_nwe的博客
12-06 1731
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
扩散模型的具体类型——Variational Diffusion Models (VDM)
DuHz的博客
11-12 1234
Variational Diffusion Models（变分扩散模型，简称VDM）是一种结合了变分自编码器（VAE）和扩散模型优势的生成模型。VDM通过在潜在空间中进行扩散过程，实现高效且高质量的数据生成。相比于传统的扩散模型，VDM利用预训练的潜在空间编码器，将高维数据映射到低维潜在空间，降低了计算复杂度，同时保持了生成样本的高质量。VDM在图像生成、语音合成等领域展现出卓越的性能，因其在生成效率和质量上的平衡而备受关注。
DDPM模型——公式推导
Peach_____的博客
01-15 1959
【推导】DDPM模型——公式推导。
狗都能看懂的DDPM论文详解
个人学习笔记
04-07 1万+
DDPM的推导笔记，更深刻理解stable diffusion，从不同角度去学习去噪网络
文末送书 | 王小川、朱军等大咖好评！生成式AI模型的理论、应用与代码实践...
Paper weekly
08-06 700
杨灵，张至隆，张文涛，崔斌 著电子工业出版社-博文视点2023-08-01ISBN:9787121459856定价: 89.00 元新书推荐????今日福利｜关于本书｜本书紧跟人工智能发展，详解介绍了闻名学界、业界的扩散模型。从理论、应用到代码实践，无一不包。即具前沿又具实用性。可供高等院校计算机科学、人工智能和医学、生物学等交叉学科专业的师生，以及相关人工智能应用程序的开发人员阅读。本书作者团队...
DDPM扩散概率模型数学原理推导
weixin_48136514的博客
07-03 1910
DDPM正向过程 定义 前向过程被定义为一个从初始数据 x0x_0x0​开始的马尔可夫链。而他的目标是要由x0x_0x0​的分布去推x1:Tx_{1:T}x1:T​联合概率密度的分布，由马尔可夫链定义，即：马尔可夫定理是指一个随机过程的未来状态仅依赖于当前状态，而与过去的状态无关。比如xtx_txt​只由xt−1x_{t-1}xt−1​的状态决定，与xt−1x_{t-1}xt−1​之前的状态无关 q(x1:T∣x0)=∏t=1Tq(xt∣xt−1)q(x_{1:T} | x_0) = \prod_{t=1}
Generative AI 新世界 | 扩散模型原理的代码实践之采样篇
亚马逊云科技专栏
10-07 476
那么在这里我们感觉到这可能是精灵，但可能是精灵 Bob 、精灵 Fred ，或者是精灵 Nance ，这时我们可能想让神经网络为这些精灵图像推荐更通用的细节，比如：在此基础上为 Bob 建议一些细节，或者你会为 Fred 建议一些细节等。假设下面是你已经有的精灵图像数据集（来自 ElvGames 的 FrootsnVeggies 和 kyrise 精灵图像集），你想要更多的在这些数据集中没有的大量精灵图像，你该如何实现这个现在看起来不可能完成的任务？除了你训练过的所有精灵之外，你还可以获得更多的精灵。
变分扩散模型
人工智能原理与技术分享
04-27 1091
VDM (Variational Diffusion Models) 基于 [[MHVAE]] 模型，但与 [[MHVAE]] 模型有3个不同：对于所有时间步t：隐变量zt​的维度和数据x的维度相等，即zt​∈Rdx∈Rd；对于所有时间步t：隐变量zt​不是通过神经网络模型学习得到的，而是以前一个时间步zt−1​为均值的高斯分布。所以，Diffusion Models 不需要通过神经网络模型学习一个 Encoder；随着时间步t的增大，隐变量zt。
扩散模型：DDPM的两种数学推导
weixin_37737254的博客
04-14 2073
在上一篇文章最后结尾时，笔者提到扩散模型(Diffusion Models)实际上就是一种在限定条件下的马尔可夫层次变分自编码器(Markovian Hierarchical Variational Autoencoder, MHVAE)，是融入了马尔可夫过程的VAE模型。其本质上和VAE的流程有相似之处，都是经过原始图像->高斯噪声图->生成图像的三个步骤。本文将接续上一篇关于ELB...
全面理解扩散模型：从DDPM到生成模型再到一致性模型
总之，从DDPM到score-based generative models再到Consistency Models的介绍，为我们深入理解扩散模型和生成模型提供了重要的参考和思路。这些模型和算法的探索和应用，将进一步推动深度学习在生成模型和数据建模...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

镰刀韭菜

看在我不断努力的份上，支持我吧

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值