扩散模型(Diffusion Model)
Diffusion Model.
扩散模型 (Diffusion Model)是一类受到非平衡热力学 (non-equilibrium thermodynamics)启发的深度生成模型。这类模型首先定义前向扩散过程的马尔科夫链 (Markov Chain),向数据中逐渐地添加随机噪声;然后学习反向扩散过程,从噪声中构造所需的数据样本。扩散模型也是一类隐变量模型,其隐变量通常具有较高的维度(与原始数据相同的维度)。
扩散模型的主要优点:
- 目标函数为回归损失,训练过程平稳,容易训练;
- 与像素顺序无关的逐级自回归过程,图像生成质量高。
扩散模型的主要缺点:
- 采样速度慢,单次生成需要$T$步采样;
- 没有编码能力,无法编辑隐空间。
本文目录:
- 时间离散型扩散模型的基本原理