从GAN到WGAN（02/2）

上篇文章： 从GAN到WGAN（01/2）

一、说明

生成对抗网络 （GAN） 在许多生成任务中显示出巨大的效果，以复制现实世界的丰富内容，如图像、人类语言和音乐。它的灵感来自博弈论：两个模型，一个生成器和一个批评家，在相互竞争的同时使彼此更强大。然而，训练GAN模型是相当具有挑战性的，因为人们面临着训练不稳定或收敛失败等问题。在这里，我想解释一下生成对抗网络框架背后的数学原理，为什么很难训练，最后介绍一个旨在解决训练难点的GAN修改版本。

二、GAN中的问题

尽管GAN在逼真的图像生成方面取得了巨大成功，但训练并不容易;众所周知，该过程缓慢且不稳定。

2.1 难以实现纳什均衡(Nash equilibrium)

Salimans等人（2016）讨论了GAN基于梯度下降的训练程序的问题。同时训练两个模型，以找到两人非合作博弈的纳什均衡。但是，每个模型都会独立更新其成本，而不考虑游戏中的其他玩家。同时更新两个模型的梯度并