论文解析:变分自编码器

VAE(变分自编码器)是一种生成式模型,用于探索输入数据的潜在表示,并能生成新的样本。本文详细介绍了VAE的基本原理,包括其背后的数学基础、优化目标及重参数技巧等内容。

VAE(变分自编码器)

 变分自编码器来自于论文《Auto-Encoding Variational Bayes》,是一种生成式模型,生成式模型的概念在CS229中已经有过介绍了,简单来说,对于一个判别式模型来说,我们希望得到的是 P ( y ∣ x ) P(y|x) P(yx),即在给定了样本x的情况下希望得到其输出y的分布(在回归模型里这通常表现为ML求期望如Linear family,在分类模型里这就简单的表示为softamx的输出);而生成式模型的目的则是希望求取 P ( x ∣ y ) P(x|y) P(xy),即想要知道输出y是如何产生输入的,常见的生产式模型就比如GDA。VAE作为一个生成式模型,其目的也就是想要得到输出如何得到输入。

  在VAE中,我们给定了一个基本的假设,我们的样本x是某些隐变量z(lantent variable)通过某种映射产生的,而z也不是一个固定值,而是服从一个分布的: z ∼ P θ ∗ ( z ) z\sim P_{\theta^*}(z) zPθ(z),则 x ∼ P θ ∗ ( x ∣ z ) x \sim P_{\theta^*}(x|z) xPθ(xz),这里的 P P P是一由参数 θ \theta θ决定的分布族,而 θ ∗ \theta^* θ就是我们需要找到的真实分布。所以我们最根本的目标就是确定z和

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值