1. 从“雕刻佛像”到“去噪”:DDPM的直观理解
想象一下,你有一块被各种颜料胡乱泼洒、完全看不出原貌的画布。你的任务不是去猜测它原本画了什么,而是学习如何一步步地将这些混乱的颜料擦除,最终还原出一幅清晰的、符合某种风格(比如山水画或人像)的作品。这个过程,就是DDPM(Denoising Diffusion Probabilistic Models,去噪扩散概率模型) 在做的事情。它不是一个“猜图”模型,而是一个精妙的“去噪”艺术家。
在之前的文章中,我们常常把扩散过程比作“雕刻佛像”——将一块完整的木头(清晰图像)逐渐打磨成木屑(纯噪声)。但今天,我想换个更贴近技术本质的比喻:学习“逆熵”。在物理世界里,熵增(从有序到无序)是自发且容易的,就像把一滴墨水滴入清水;而逆熵(从无序恢复到有序)则需要消耗巨大的能量和精确的操控。DDPM的逆扩散过程,正是在数学上模拟这种“逆熵”行为,它教会了一个神经网络如何执行这种看似不可能的任务:从一片完全随机的高斯噪声中,构造出结构严谨、细节丰富的图像。
那么,这个模型适合谁呢?如果你是一名希望深入理解AIGC(AI生成内容)核心原理的开发者、研究者,或者是对“AI为何能从噪声中画画”感到无比好奇的技术爱好者,那么跟随我一起拆解DDPM的数学推导,将会是一次非常过瘾的智力冒险。别被公式吓到,我会用最直白的语言和类比,带你看清每一步背后的直觉。整个故事的核心,就在于那个神秘的逆扩散过程,它才是DDPM从噪声中召唤图像的魔法阵。
2. 前向扩散:如何优雅地将图像“溶解”成噪声
在施展“逆熵”魔法之前,我们必须先定义什么是“熵增”,也就是扩散过程。这个过程是人为设定的、确定性的,目的是为逆过程提供一个清晰的学习目标。
2.1 马尔可夫链与“一小步”噪声
DDPM的前向过程被设计成一个马尔可夫链。什么是马尔可夫链?简单说,就是下一个状态只由当前状态决定,和历史无关。在扩散里,这意味着t时刻的带噪图像x_t,只由t-1时刻的图像x_{t-1}加一点噪声得到。
数学上,这一步被定义为:
q(x_t | x_{t-1}) = N(x_t; sqrt(1-β_t) * x_{t-1}, β_t I)
这个公式看起来有点复杂,但拆开看很简单:
sqrt(1-β_t) * x_{t-1}:这是x_t的均值。它意味着新图像是旧图像按比例sqrt(1-β_t)缩小的结果。β_t是一个很小的数(比如0.0001到0.02),所以sqrt(1-β_t)略小于1,这相当于把图像信号稍微减弱一点。β_t I:这是x_t的方差(协方差矩阵)。I是单位矩阵,表示噪声是独立同分布的。β_t控制着这一步加入的噪声量。
所以,每一步可以形象地理解为:先把上一时刻的图像亮度调暗一点点(乘以sqrt(1-β_t)),然后加上一点点强度为β_t的高斯噪声。β_t被安排成一个递增的序列,意味着越往后,每一步加的噪声就越大,图像信号衰减得也越厉害。
2.2 重参数化技巧:把随机性“推”出去
在神经网络和概率模型中,我们经常需要从某个分布中采样,但“采样”这个操作本身是不可导的,这会给基于梯度的训练带来麻烦。重参数化技巧(Reparameterization Trick) 就是为了解决这个问题。
对于高斯分布z ~ N(μ, σ^2),采样z可以等价地写成:z = μ + σ * ε,其中ε ~ N(0, 1)。这样一来,随机性被转移到了标准正态变量ε上,而μ和σ则成为了确定性的参数,可以参与求导。
应用这个技巧,前向过程的单步公式可以重写为:
x_t = sqrt(α_t) * x_{t-1} + sqrt(1-α_t) * ε_{t-1}
这里我引入了一个新记号α_t = 1 - β_t。这个形式清爽多了:x_t等于上一时刻图像的缩放版,加上一个缩放后的噪声。ε_{t-1}就是从标准正态分布里采样的随机数。
2.3 任意时刻的“直达航班”:从x_0一步到x_t
马尔可夫链的一个美妙性质是,我们可以通过连续代入,将x_t直接表示为原始图像x_0和一个复合噪声的函数,而无需一步步迭代计算。这就像你不需要知道中途转机信息,也能买到从起点到终点的直飞机票。
让我们把重参数化公式反复代入:
x_t = sqrt(α_t) * x_{t-1} + sqrt(1-α_t) * ε_{t-1}
= sqrt(α_t) * [sqrt(α_{t-1}) * x_{t-2} + sqrt(1-α_{t-1}) * ε_{t-2}] + sqrt(1-α_t) * ε_{t-1}
= sqrt(α_t * α_{t-1}) * x_{t-2} + sqrt(α_t*(1-α_{t-1})) * ε_{t-2} + sqrt(1-α_t) * ε_{t-1}
= ...
经过t次展开后,你会发现所有与x_0相乘的系数合并成了一个乘积,而所有噪声项也合并了起来。利用高斯噪声的可加性(两个独立高斯变量相加,均值相加,方差相加),最终我们得到一个极其简洁的形式:
x_t = sqrt(ᾱ_t) * x_0 + sqrt(1 - ᾱ_t) * ε
其中,ᾱ_t = α_t * α_{t-1} * ... * α_1,即所有1-β_t的连乘积。ε是一个服从标准正态分布N(0, I)的随机变量。
这个公式q(x_t | x_0) = N(x_t; sqrt(ᾱ_t) * x_0, (1-ᾱ_t)I)是DDPM的一个基石。它告诉我们,任意时刻t的带噪图像x_t,可以直接从原始图像x_0加上一个特定强度的噪声得到。噪声的强度由(1-ᾱ_t)控制。当t很大时(比如论文中的T=1000),ᾱ_t会趋近于0,sqrt(1-ᾱ_t)趋近于1,此时x_t就几乎完全变成了标准高斯噪声N(0, I)。这就完成了前向过程的目标:将任何数据分布都转化为一个简单的、已知的噪声分布。
3. 逆扩散核心:学习“去噪”的精确步伐
前向过程是把一幅画变成一团雾,而逆过程则是把这团雾重新凝聚成一幅画。这才是DDPM生成图像的核心。我们无法直接写出逆过程的真实分布q(x_{t-1} | x_t),因为从噪声反推清晰图像是极度病态的问题。但如果我们知道起点x_0,情况就不同了。
3.1 后验分布:已知起点和终点,求上一步
虽然q(x_{t-1} | x_t)难求,但q(x_{t-1} | x_t, x_0)是可以精确推导的。它的物理意义是:在已知最终噪声图x_t和原始清晰图x_0的情况下,上一步x_{t-1}最可能是什么样子?这相当于知道了谜底和当前状态,去反推上一步状态。
通过贝叶斯公式和一些高斯分布的运算(具体推导在原始文章中很详细),我们可以得到这个条件分布依然是一个高斯分布:
q(x_{t-1} | x_t, x_0) = N(x_{t-1}; μ̃_t, β̃_t I)
其中,均值μ̃_t和方差β̃_t 都有解析解:
- 方差
β̃_t:β̃_t = (1 - ᾱ_{t-1}) / (1 - ᾱ_t) * β_t - 均值
μ̃_t:μ̃_t = [sqrt(α_t)*(1-ᾱ_{t-1})/(1-ᾱ_t)] * x_t + [sqrt(ᾱ_{t-1})*β_t/(1-ᾱ_t)] * x_0
这个均值公式看起来复杂,但它揭示了一个关键点:x_{t-1}的“最佳估计值”是当前噪声图x_t和原始清晰图x_0的加权平均。然而在逆扩散时,x_0正是我们想要求的东西,是未知的。
3.2 均值预测网络:用噪声预测器替代未知的x_0
这里就是DDPM设计最巧妙的地方。我们利用2.3节推导出的“直达航班”公式:x_t = sqrt(ᾱ_t) * x_0 + sqrt(1 - ᾱ_t) * ε。我们可以把x_0用x_t和ε_t表示出来:
x_0 = (x_t - sqrt(1 - ᾱ_t) * ε_t) / sqrt(ᾱ_t)
把这个表达式代入上面μ̃_t的公式中,经过化简(消去x_0),奇迹发生了:
μ̃_t = 1/sqrt(α_t) * [ x_t - (1-α_t)/sqrt(1-ᾱ_t) * ε_t ]
这个公式太重要了!它意味着,如果我们能预测出在x_t这一步所添加的噪声ε_t,那么我们就能计算出逆扩散过程中x_{t-1}分布的最优均值。方差β̃_t只由预定义的超参数β_t决定,我们可以直接使用或者用一个简单的网络去学习。
于是,DDPM的训练目标变得极其清晰和简单:训练一个神经网络ε_θ(x_t, t),输入是任意时刻的噪声图x_t和时间步t,让它去预测当初在前向过程中添加到x_0上,从而得到x_t的那个噪声ε_t。
3.3 训练与采样:一个预测噪声的游戏
训练过程可以概括为:
- 从训练集中随机取一张干净图片
x_0。 - 随机采样一个时间步
t(从1到T)。 - 从标准正态分布采样一个噪声
ε。 - 根据公式
x_t = sqrt(ᾱ_t) * x_0 + sqrt(1 - ᾱ_t) * ε,构造t时刻的带噪图片。 - 将
(x_t, t)输入神经网络,得到预测的噪声ε_θ(x_t, t)。 - 计算预测噪声
ε_θ和真实噪声ε之间的均方误差(MSE)作为损失函数:L = ||ε - ε_θ(x_t, t)||^2。 - 反向传播,更新网络参数。
这个损失函数直观得令人发指:网络就是在学习“猜噪声”。为什么猜噪声比直接猜图像更容易?因为对于任何x_t,它所包含的噪声ε在统计上是一个相对简单、平滑的目标(来自高斯分布),而图像x_0则包含极其复杂的语义和结构信息。让网络去拟合一个简单分布,任务就轻松多了。
采样(生成)过程则是训练的逆过程:
- 从纯高斯噪声
x_T ~ N(0, I)开始。 - 从
t=T逐步循环到t=1: a. 将当前x_t和t输入训练好的噪声预测网络,得到ε_θ(x_t, t)。 b. 计算均值:μ_θ = 1/sqrt(α_t) * [ x_t - (1-α_t)/sqrt(1-ᾱ_t) * ε_θ(x_t, t) ]。 c. 计算方差:σ_t^2 = β̃_t(或按论文简化版,直接用β_t)。 d. 从高斯分布N(μ_θ, σ_t^2 I)中采样出x_{t-1}:x_{t-1} = μ_θ + σ_t * z,其中z ~ N(0, I)。 - 循环结束,得到生成的图像
x_0。
4. 方差调参与扩散步数:生成质量的精细控制
理解了核心推导后,我们来看看两个至关重要的工程细节:方差Σ_θ的选择和扩散步数T的影响。它们直接决定了生成图像的质量和速度。
4.1 方差的选择:固定还是可学?
在逆扩散公式p_θ(x_{t-1} | x_t) = N(x_{t-1}; μ_θ(x_t, t), Σ_θ(x_t, t))中,我们讨论了如何用网络预测均值μ_θ。对于方差Σ_θ,DDPM原文尝试了两种方案:
- 固定方差:直接设置为
β_t或β̃_t。这是原论文最终采用的方案,因为作者发现这样效果已经很好,且训练更稳定。 - 可学习方差:让神经网络也输出一个方差。但实验发现,这对最终生成质量的提升有限,反而可能使训练不稳定。
为什么固定方差也能work?我的理解是,逆扩散过程的主要不确定性在于“朝哪个方向去噪”,这个方向信息由均值μ_θ(即预测的噪声)来刻画。而每一步该走多大的步长(方差),由一个与数据无关的、单调递减的序列β_t来控制,已经足够引导采样过程平稳进行。把方差固定为简单值,相当于为去噪过程提供了一个稳定的“节奏器”。
在实际操作中,很多人会采用一个对数线性插值的方差序列。例如,让β_t从β_1=1e-4线性增长到β_T=0.02。这样设计是为了让噪声在初期加得慢一些,保留更多信号;在后期加得快一些,更快地接近纯噪声。对应的ᾱ_t则会从接近1平滑地衰减到接近0。
4.2 扩散步数T:在质量与效率间权衡
T,即扩散/逆扩散的总步数,是DDPM模型最重要的超参数之一。
T越大(如1000,5000):前向过程更接近连续的扩散,每一步加的噪声非常微小。逆过程也因此需要更多、更精细的步骤来去噪。这通常能带来更高的生成质量和更低的训练损失,因为网络学习的是非常微小的噪声扰动。Stable Diffusion等顶尖模型都采用了大T。T越小(如50,100):每一步加的噪声更大,逆过程步数少。这能极大地加快采样速度,因为生成一张图只需要循环几十次。但代价是生成质量可能下降,因为网络需要学习预测更大的、更“跳跃”的噪声,任务更难。
这就引出了后续研究的重点:如何用更少的步数达到相近的质量? 这催生了像DDIM(Denoising Diffusion Implicit Models) 这样的工作。DDIM发现,逆扩散的采样过程并不必须严格遵循前向过程的马尔可夫链。它可以被重新参数化为一个确定性的过程(当方差设为0时),或者一个非马尔可夫过程,从而允许“跳步”采样。例如,可以用50步来模拟原本需要1000步的扩散过程,在不重新训练模型的情况下,将生成速度提升20倍,而质量损失很小。这背后的直觉是,扩散模型学习到的是一个连续的“去噪轨迹”,我们可以在这个轨迹上聪明地选择一些关键点进行采样,而不必每一步都走。
在我自己尝试训练小型扩散模型时,深刻体会到T的选择是一种艺术。对于简单的数据集(如MNIST手写数字),T=200可能就足够了;但对于复杂的自然图像,T=1000是保证细节丰富的安全选择。同时,配合余弦调度(cosine schedule) 来设置β_t,比简单的线性调度能让ᾱ_t在t接近T时下降得更慢,给模型在最后几步保留更多信号去处理,实践中对提升质量有帮助。
5. 实战中的网络设计与训练技巧
理论很美妙,但把DDPM从公式变成能跑出图片的代码,还需要精心的工程实现。这里分享几个关键点。
5.1 噪声预测网络:U-Net的王者地位
DDPM选择U-Net作为噪声预测网络ε_θ的骨架,这几乎是所有现代扩散模型的标准配置。为什么是U-Net?
- 编码器-解码器结构:U-Net先通过下采样(编码)捕获图像的全局上下文信息,再通过上采样(解码)并结合跳跃连接恢复局部细节。这对于理解“在噪声的全局背景下,哪些部分该被去除,哪些结构该被恢复”至关重要。
- 对等形输入输出:U-Net输入和输出尺寸相同,正好匹配我们的任务:输入
x_t,输出同尺寸的预测噪声图。 - 时间步嵌入:时间步
t是一个关键条件。我们不是为每一个t训练一个独立的网络,而是通过位置编码(类似Transformer中的sin/cos编码)将标量t转化为一个高维向量,然后通过加法或自适应层归一化(AdaGN)注入到U-Net的每一层中。这样,一个网络就能处理所有时间步。
一个简化的核心代码块可能长这样:
import torch
import torch.nn as nn
class TimeEmbedding(nn.Module):
def __init__(self, dim):
super().__init__()
self.dim = dim
# 构建正弦位置编码
def forward(self, t):
# t: [batch_size]
# 输出: [batch_size, dim]
half_dim = self.dim // 2
embeddings = math.log(10000) / (half_dim - 1)
embeddings = torch.exp(torch.arange(half_dim, device=t.device) * -embeddings)
embeddings = t[:, None] * embeddings[None, :]
embeddings = torch.cat([torch.sin(embeddings), torch.cos(embeddings)], dim=-1)
return embeddings
class SimpleUNet(nn.Module):
def __init__(self):
super().__init__()
self.time_embed = TimeEmbedding(512)
# 定义编码器(下采样)和解码器(上采样)层
# 在每一层卷积后,将时间嵌入向量投影后加到特征图上
def forward(self, x, t):
# x: 噪声图像 [B, C, H, W]
# t: 时间步 [B]
t_emb = self.time_embed(t) # [B, D]
# U-Net前向传播,将t_emb信息融入各层
# ...
return predicted_noise # [B, C, H, W]
5.2 训练稳定性的关键:归一化与损失函数
训练扩散模型,尤其是高分辨率模型,稳定性是首要挑战。
- 输入归一化:在将图像输入网络前,通常将其像素值从
[0, 255]线性缩放至[-1, 1]。这有助于训练的稳定性。 - 损失函数:如3.3节所述,DDPM使用简单的均方误差(MSE) 在预测噪声和真实噪声之间。这个损失在实践中非常稳健。也有一些变体尝试预测
x_0或v(速度),但预测噪声被证明是最有效和稳定的选择。 - 梯度裁剪:在训练初期,梯度可能很大,使用梯度裁剪可以防止优化过程崩溃。
- 学习率调度:使用带热启动的余弦退火学习率调度器是很常见的选择,它能在训练后期帮助模型更好地收敛。
我踩过的一个坑是:在预测噪声时,如果不对时间步t做很好的嵌入,模型在t很小(接近清晰图)和t很大(接近纯噪声)时的表现会不一致。确保时间嵌入被充分投影并融入到U-Net的每一个残差块中,是均衡不同时间步去噪性能的关键。
5.3 采样加速:让扩散模型“飞”起来
原始DDPM需要1000步采样,生成一张图可能需要几十秒甚至几分钟。这对于研究和迭代来说是难以接受的。除了前面提到的DDIM,还有更多加速采样技术:
- PLMS(Pseudo Linear Multi-step):利用多个过去步骤的预测噪声来估计当前步的更优噪声,可以用更少的步数达到高精度。
- DPM-Solver:将扩散过程的微分方程(SDE/ODE)视为一个求解问题,应用高阶数值解法来大幅减少步数。
- 知识蒸馏:训练一个“学生”网络,让其一步或少数几步就模仿“教师”网络(原始多步模型)的生成效果。
在实际应用中,我通常会先用DDPM或改进型(如Improved DDPM)训练一个基础模型,然后用DDIM或DPM-Solver进行快速采样,在质量和速度间取得一个很好的平衡。例如,一个在CelebA HQ上训练的模型,用50步DDIM采样,能在1秒内生成质量相当不错的1024x1024人脸图像。
17



被折叠的 条评论
为什么被折叠?



