图像生成之生成对抗网络（Generative adversarial networks，GAN）

简要介绍

原文：Generative Adversarial Networks (arxiv.org)

​ 以前的一些模型是通过显示训练数据的分布，比如上面的VAE。也就是可以得到最终训练好的均值与方差，而GAN是隐式训练。

​ GAN受博弈论中的零和博弈启发，将生成问题视作判别器和生成器这两个网络的对抗和博弈：生成器从给定噪声中（一般是指均匀分布或者正态分布）产生合成数据，判别器分辨生成器的的输出和真实数据。前者试图产生更接近真实的数据，后者试图更完美地分辨真实数据与生成数据。由此，两个网络在对抗中进步，在进步后继续对抗，由生成网络得到的数据也就越来越完美，逼近真实数据，从而可以生成想要得到的数据（图片、序列、视频等）。

训练原理与公式推导

​ 图1 GAN模型体系结构图示

​ 设真实训练数据的分布服从$x\sim p_{\text{data}}$，先验噪声输入变量分布服从$z\sim q_z(z)$， 生成模型为$G(z;{\theta }_g)$,其中${\theta }_g$是生成模型中的网络参数。设判别模型为$D(z;{\theta }_d)$，其中 ${\theta }_d$是判别模型中的网络参数，生成模型通过学习数据$x$得到生成模型分布$p_g$。根据理论分析结果，如果给予生成模型足够的承载力和足够的训练时间，生成模型$G$完全有可能拟合出类似于真实样本分布$p_{\text{data}}$的从假设随机分布$p_z$得到的合成样本分布$p_g$。 同时，当模型训练达到全局最优平衡点$p_g=p_{\text{data}}$的时候，说明生成对抗网络达到了 博弈的最佳状态。数学优化模型如下所示：
$$\underset{G}{\min }\underset{D}{\max }V(D,G)=E_{x\sim p_{\text{data}}(x)}[\log (D(x))]+E_{z\sim p_z(z)}[\log (1-D(G(x))]$$

• 生成器的目标函数为：

$$\underset{G}{\min }{E}_{z\sim p_z(z}$$