VAE(变分自编码器)
变分自编码器来自于论文《Auto-Encoding Variational Bayes》,是一种生成式模型,生成式模型的概念在CS229中已经有过介绍了,简单来说,对于一个判别式模型来说,我们希望得到的是 P ( y ∣ x ) P(y|x) P(y∣x),即在给定了样本x的情况下希望得到其输出y的分布(在回归模型里这通常表现为ML求期望如Linear family,在分类模型里这就简单的表示为softamx的输出);而生成式模型的目的则是希望求取 P ( x ∣ y ) P(x|y) P(x∣y),即想要知道输出y是如何产生输入的,常见的生产式模型就比如GDA。VAE作为一个生成式模型,其目的也就是想要得到输出如何得到输入。
在VAE中,我们给定了一个基本的假设,我们的样本x是某些隐变量z(lantent variable)通过某种映射产生的,而z也不是一个固定值,而是服从一个分布的: z ∼ P θ ∗ ( z ) z\sim P_{\theta^*}(z) z∼Pθ∗(z),则 x ∼ P θ ∗ ( x ∣ z ) x \sim P_{\theta^*}(x|z) x∼Pθ∗(x∣z),这里的 P P P是一由参数 θ \theta θ决定的分布族,而 θ ∗ \theta^* θ∗就是我们需要找到的真实分布。所以我们最根本的目标就是确定z和

VAE(变分自编码器)是一种生成式模型,用于探索输入数据的潜在表示,并能生成新的样本。本文详细介绍了VAE的基本原理,包括其背后的数学基础、优化目标及重参数技巧等内容。
最低0.47元/天 解锁文章
900

被折叠的 条评论
为什么被折叠?



