GAN在半监督学习上的应用

参考论文：https://arxiv.org/pdf/1606.01583.pdf

http://arxiv.org/abs/1606.03498

摘要

近几年，深度学习声名鹊起，一个又一个AI领域被深度学习攻破，然而现在大部分深度学习所采用的算法都是有监督学习的方法，需要大量的标注数据，这也就需要耗费大量的人力物力。因此如何充分利用大量的无标签数据资源，必将成为未来深度学习领域的研究焦点。

通过使用判别器网络输出类别标签将GAN扩展到半监督领域。在一个有N个类别的数据集上训练生成模型G和判别模型D。训练时，D预测输入数据属于N个类别中的哪一个，加入一个额外的类别对应G的输出。我们证明，相对与普通GAN，此方法可以用来生成一个更有效的分类器并可以生成高质量的样本。

1、介绍

利用GAN生成图像已经显示出很有前景的结果。生成器网络G和判别器网络D作为对抗的对象同时训练。G接收一个噪声向量作为输入，输出图像（样本）；D 接收图像（样本）并输出该图像是否是来自G 的预测。训练G 用以最大化D 犯错的概率，训练D 用来最小化自己犯错的概率。基于这些想法，运用卷积神经网络的级联，可以生成高质量的输出样本（DCGAN）。最近，一个single generator network产生了更好的样本（Radford ）。在这里，我们考虑试图解决一个半监督分类任务并同时学习一个生成模型。例如，我们可以在MNIST数据集上学习一个生成模型同时训练一个图像分类器，我们把它叫做C 。在半监督学习任务上使用生成模型并不是一个新想法，Kingma等人扩展了变分生成技术就是未来做到这一点。这里，我们想用GANs做些类似的事。我们不是第一个用GAN 做半监督学习的。CatGAN（Springenberg, J. T. Unsupervised and Semi-supervised Learning with Categorical G