【论文精读】对Generative Adversarial Net的一点理解

Generative Adversarial Net

摘要

​ 作者提出了一种新的框架，通过对抗来评估生成模型，通过同时训练两个模型：用来模拟数据分布生成模型G，以及辨别模型D，用来评估采样来自训练数据而非生成模型G的概率。

​ G的训练过程是将D犯错的概率最大化，也就是让D分辨不出训练数据和生成数据的区别。

​ 在任意函数G和D的的空间中存在一个独一无二的解，也就是G能够生成D无法分辨数据，以至于任意的数据被D认为是来自训练数据的概率的 $\frac{1}{2}$.

​ 在G和D被定义为多层感知机的情况下，整个系统可以通过反向传播进行训练。

​ 训练或生成样本期间都不需要任何马尔科夫链或者展开的近似推理网络。

1. 介绍

​ 目前为止，对辨别器（分类器）的研究取得了巨大的成功。但是深度生成模型的发展却没那么好，由于很难近似在极大概率估计和相关策略所引起的许多棘手的概率计算。作者提出了一种新的生成模型评估过程来回避这些问题。

​ 在提出的对抗网络框架中，一个辨别模型学着去分辨一个样本是来自于生成模型的分布还是训练数据的分布。

​ 就好像一群造假币的罪犯试图造出能够以假乱真的假币，而警察需要辨别出收到的货币到底是真还是假。刚开始造出的假币质量非常差，警察一眼就能分辨出真假，后来经过一次次的技术升级，这群罪犯造出了能够以假乱真的假币。最后的结果是警察无法分辨收到的货币是真是假。

​ 在上面的例子中，造假币的罪犯就是生成器G，警察就是辨别器D，而造出的假币就是生成器生成的数据，真币就是训练集中的数据，最终训练的结果就是辨别器D无法分辨输入的数据是生成器G所产生的数据还是训练集中的数据。

​ 在本文中，作者让生成模型通过向多层感知机传入随机噪声来生成样本，而辨别模型同样也是一个多层感知机。作者将这种特殊情况定义为对抗网络，在这种情况下，可以通过反向传播和dropout算法，以及使用前向传播算法来从生成模型中采样来训练网络。

2. 对抗网络

​ 生成对抗网络的示意图如下：

​ 整个网络的的训练目标：

​

​ 接下来我们将从交叉熵函数开始推导此公式：

​ 首先我们知道对于二分类的交叉熵公式有：

​ $L(p)=-(y\cdot \log p+(1-y)\log (1-p))$

其中$p$是预测为样本模型为正例的概率，$y$是样本标签，正例取$1$，反例取$0$。

上面是普通的二分类任务的交叉熵函数，那么对于生成对抗网络，则有：

​ $V(D)=-(y\log (D(x)+(1-y)\log (1-D(x)))$

其中$D(x)$为将样本判断为来自数据集的概率，自然$1-D(x)$就是判断样本来自生成器的概率。

又因为来自生成器的样本$x～G(z)$,所以有：

​ $V(G,D)=-(y\log (D(x)+(1-y)\log (1-D(G(z)))$

推广到$N$个样本，则有：

​ $V(G,D)=-({\sum }_{i=1}^N{y}_i\log (D(x_i)+{\sum }_{i=1}^N(1-y_i)\log (1-D(G(z_i)))$

为了表达无限个样本的情况，以期望的形式写出：

​ $V(G,D)=-(E_{x～p_{data}}{y}_i\log (D(x)+E_{z～p_z(z)}(1-y_i)\log (1-D(G(z)))$

最后另$y_i=\frac{1}{2}$,有：

​ $V(G,D)=-\frac{1}{2}(E_{x～p_{data}}\log (D(x)+E_{z～p_z(z)}\log (1-D(G(z)))$

在训练过程中，我们应该首先训练辨别器，让辨别器具有足够好的分辨能力，所以我们应该保持$G$不变的情况下，将此损失函数最小化：

​ $mi{n}_{D}V(G,D)=-\frac{1}{2}(E_{x～p_{data}}\log (D(x)+E_{z～p_z(z)}\log (1-D(G(z)))$

​ 然后紧接着训练生成器，让生成器能够生成足够逼真的数据，让之前训练好的训练器也无法辨别出端倪，因此我们在保持D不变的情况下，让此损失函数最大化：

​ 如果计$L=mi{n}_{D}V(G,D)=-\frac{1}{2}(E_{x～p_{data}}\log (D(x)+E_{z～p_z(z)}\log (1-D(G(z)))$，

​ 那么我们的目标应该是：

​ $ma{x}_{G}mi{n}_{D}V(G,D)=-\frac{1}{2}(E_{x～p_{data}}\log (D(x)+E_{z～p_z(z)}\log (1-D(G(z)))$

​ 然后我们拿去整个式子中的因子 $-\frac{1}{2}$，则最大最小化取反，有：

​ $mi{n}_{G}ma{x}_{D}V(G,D)=E_{x～p_{data}}\log (D(x)+E_{z～p_z(z)}\log (1-D(G(z))$

​ 推理完毕。