论文阅读：Generative Adversarial Nets

Abstract

---

本文贡献：

提出GAN：
生成模型 G ，生成模型用来捕获数据的分布；
辨别模型 D ，辨别模型用来判断样本是来自于训练数据还是生成模型生成的。

在任意函数空间里，存在唯一解，G 能找出训练数据的真实分布，而 D 的预测概率为 $\frac{1}{2}$ 。

结果：

该框架是可行的。

1. Introduction

---

生成模型问题：在最大似然估计时会遇到很多棘手的近似概率计算。
对抗网络：生成模型与判别模型相比较，学习确定样本是来自模型分布还是来自数据分布。
生成模型可以通过多层感知机来实现，输入为一些随机噪声，可以通过反向传播来训练。

2. Related work

---

• Boltzmann machine（玻尔兹曼机）：似然函数难以处理，需要多次近似
• Generative stochastic networks（生成式随机网络）：用精确的反向传播进行训练
• Markov chains（马尔可夫链）：本文通过消除生成随机网络中的马尔可夫链，扩展了生成模型的概念
• variational autoencoders（VAE，变分自编码器）：将可微生成网络与执行近似推理的识别模型配对
• Noise-contrastive estimation（NCE，噪声对比估计）：通过学习权重来训练生成模型，使该模型有助于区分固定噪声分布中的数据，其“判别器”是由噪声分布和模型分布的概率密度之比定义
• Predictability Minimization（PM，可预测性最小化）

3. Adversarial nets

---

目标函数：
$$\underset{G}{\min }\underset{D}{\max }V(D,G)={\mathbb{E}}_{x\sim p_{data}(x)}[\log D(x)]+{\mathbb{E}}_{z\sim p_{}}$$