- 博客(3)
- 收藏
- 关注
原创 概览:VAE, GAN, Flow Model 和 Diffusion 的关系(二):Diffusion Model
Diffusion Model(DDPM)的基本思路 对于隐变量模型给出的基本思路: p(x)=∫p(x∣z)p(z)dzp(x)=\int p(x|z) p(z) \mathrm{d}zp(x)=∫p(x∣z)p(z)dz VAE给出的优化是提高 p(z)p(z)p(z)的采样效率: encoder 用参数化的后验分布模型 qθ(z∣x)q_\theta(z|x)qθ(z∣x),直接预测均值μ\muμ和方差Σ\SigmaΣ,使得 qθ(z∣x)=N(μ,Σ)q_\theta(z|x) = N(\mu,
2024-06-28 16:59:03
534
原创 概览:VAE, GAN, Flow Model 和 Diffusion 的关系(一):VAE 与 GAN
以图片生成和处理任务为例,假设我们的研究对象是一个16 * 16 的RGB图片,抛开对图片内容的限制,假如我们完全随机地生成这样一个尺寸的图片,每个像素的可能取值有 256 * 256 * 256 个,整个图片的可能取值情况有$ N = ( 256 \cdot 256 \cdot 256 ) ^ {(16 \cdot 16 )} $个。我们把可能随机生成的这样的一个图片设为(或者说,记为,表示为)一个随机变量 X,X的所有可能取值个数为 N,则我们可以将其样本空间表示为SXX1X2。
2024-06-28 16:57:26
1633
原创 概览:VAE, GAN, Flow Model 和 Diffusion 的关系
这里 p(\mathbf{x}_T)= \mathcal{N}(\mathbf{0}, \mathbf{I}),而 p_\theta(\mathbf{x}_{t-1} \vert \mathbf{x}_t) 为参数化的高斯分布,它们的均值和方差由训练的网络 \boldsymbol{\mu}_\theta(\mathbf{x}_t, t) 和 \boldsymbol{\Sigma}_\theta(\mathbf{x}_t, t) 给出。我们要用神经网络计算出的这些分布来估计 q(x_{t-1}|x_t)。
2024-06-20 02:18:36
1999
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人