扩散模型（Diffusion Models）

扩散模型（Diffusion Models）是一种基于概率论的生成模型，其核心思想是通过模拟数据在潜在空间中逐步“扩散”和“去噪”的过程来生成高质量的数据样本。

1. 基本定义与灵感来源

扩散模型属于生成模型的一种，最初灵感来自物理学中的扩散现象（如墨水在水中扩散）和非平衡热力学理论。它通过马尔可夫链对数据分布进行建模，将数据生成过程分解为逐步加噪（正向扩散）和去噪（反向扩散）两个阶段，最终从随机噪声中恢复出原始数据分布。

2. 核心工作原理

扩散模型的核心流程分为两个阶段：

• 正向扩散过程（Forward Process）：
  从原始数据（如图像）出发，通过一系列逐步添加高斯噪声的步骤，将数据逐渐破坏为纯噪声。每一步的噪声量由预定义的参数 (\beta_t) 控制，数学上可描述为：
  [
  q(x_t | x_{t-1}) = \mathcal{N}(x_t; \sqrt{1-\beta_t} x_{t-1}, \beta_t I)
  ]
  这一过程最终将数据完全转化为高斯分布噪声。

• 反向扩散过程（Reverse Process）：
  从纯噪声出发，通过训练神经网络（如DDPM、SGMs等）逐步预测并去除噪声，最终生成符合原始数据分布的高质量样本。这一过程需要学习复杂的概率分布逆转，通常借助变分推断或**随机微分方程（SDEs）**实现。

3. 关键技术与模型架构

• 去噪扩散概率模型（DDPM）：通过观察噪声添加过程并学习逆操作，实现数据重建。
• 分数生成模型（SGMs）：学习噪声数据的梯度场，指导逆向生成过程。
• Latent Diffusion Models：在潜在表示空间中执行扩散过程，降低计算成本（如Stable Diffusion）。

4. 应用场景

扩散模型在以下领域表现突出：

• 图像生成与编辑：如DALL-E 2/3、Midjourney等生成逼真图像。
• 图像修复与增强：去噪、超分辨率、画中画等任务。
• 跨模态生成：文本生成图像（如CLIP引导的模型）、音频/视频合成（如Sora）。
• 其他领域：医学影像重建、时间序列预测（如污染物扩散模拟）。

5. 优势与局限性

• 优势：
  • 生成质量高，样本多样性强，避免了GAN的“模式崩溃”问题。
  • 训练稳定，损失函数设计简单。
• 局限性：
  • 生成过程迭代次数多，计算成本较高（需通过潜在空间压缩等技术优化）。

6. 与其他生成模型的对比

• GAN：扩散模型在图像质量和训练稳定性上更优，但生成速度较慢。
• VAE：扩散模型通过逐步去噪生成更清晰的细节，避免模糊问题。

总结

扩散模型通过模拟物理扩散的数学过程，将生成任务转化为“噪声逆转”问题，成为当前生成式AI的核心技术之一。其灵活性和高质量输出使其在艺术创作、科学研究和工业应用中展现出巨大潜力。