BEGAN知识小结
本文为阅读完BEGAN论文后作出的系统小结。论文地址
简介
BEGAN是Google在17年上半年出的一篇论文,该论文对GAN做了进一步的改进,使得在没有使用一些trick的时候GAN依旧可以训练的很好,模式奔溃和训练不平衡等问题也解决的非常好。
以往的GAN都是希望生成器生成的model和真实数据的model分布尽量相近,BEGAN从loss的角度进行比较,希望生成器生成的model的loss和真实数据的model的loss分布尽量相近,由于使用的是同一个encoder和decoder去解码和编码,Autoencoder本身就会提取图像的共性,比如人脸的轮廓信息,那么当两者loss分布逼近的时候,两者model的分布也将会逼近。
BEGAN中,作者做出了以下四个贡献:
- 提出了一种新的简单强大GAN网络结构,使用标准的训练方式不加训练trick也能很快且稳定的收敛。
- 对于GAN中G,D的能力的平衡提出了一种均衡的概念。
- 提供了一个超参数,这个超参数可以在图像的多样性和生成质量之间做均衡。
- 提出了一种收敛程度的估计,这个机制只在WGAN中出现过。
结构,损失函数
BEGAN采用autoencoder结构的discriminator。
下图为BEGAN整体结构图。
其中损失函数使用的是 L1,L2 norm。