24、利用注意力 U-Net 扩散模型进行二次曲线生成

利用注意力 U-Net 扩散模型进行二次曲线生成

1. 引言

去噪扩散概率模型（DDPM）是一种强大的生成模型，它可以从噪声中生成高质量的图像、音频甚至视频。其原理类似于向装有蒙娜丽莎图像的水箱中逐滴加入墨水，使图像逐渐被噪声掩盖（正向过程），然后再逐滴取出墨水，使图像重新清晰可见（反向过程）。在反向过程中，U-Net 模型是生成图像的关键工具。经过数据集图像训练后，该模型可以从纯噪声中生成与原始图像风格相同的假图像。

2. DDPM 中的正向过程

• 基本原理
  • 原始图像 $x_0$（如二次曲线或数字蒙娜丽莎图像）是一个具有未知概率密度函数（PDF）$q$ 的样本：$x_0 \sim q(x)$。
  • 在正向过程（扩散过程）中，将来自标准正态分布的噪声添加到 $x_0$ 上，得到具有条件 PDF $q(x_1|x_0)$ 的潜在图像 $x_1$。
  • 这个正向过程基于方差调度 $0 < \beta_1 < \beta_2 < \cdots < \beta_T \leq 1$ 逐步进行，方差调度可以是线性、二次、余弦等，类似于学习率调度。
  • 如果时间步长 $T$ 足够大（约 1000），最终图像 $x_T$ 将是各向同性的高斯噪声：$q(x_T|x_{T - 1}) = N(x_T; 0, I)$。
  • 所有潜在图像 $x_1, \cdots, x_T$ 与原始图像 $x_0$ 具有相同的维度。在时间步 $t$，潜在图像 $x_t$ 可以通过 $x_t = \sqrt{\bar{