56、生成对抗网络（GAN）的深入探索与实践

生成对抗网络（GAN）的深入探索与实践

1. GAN训练的初步尝试与问题

在训练GAN时，我们会设定目标让判别器认为生成的假图像是真实的，所以目标值 y2 设为1。同时，为避免警告，我们将可训练属性设为 False 。训练一个周期后展示生成的图像，会发现它们已开始有点像（带有很多噪声的）Fashion MNIST图像。然而，这些图像后续并没有明显改善，甚至在某些周期，GAN似乎会遗忘之前学到的内容。

2. GAN训练的困难

• 纳什均衡问题 ：训练过程中，生成器和判别器处于零和博弈，不断试图打败对方。随着训练推进，可能会达到纳什均衡，即任何一方改变策略都不会获得更好结果。对于GAN而言，理想的纳什均衡是生成器产生完全逼真的图像，判别器只能随机猜测（50%真实，50%虚假）。但遗憾的是，没有任何保证能使这个均衡必然达成。
• 模式崩溃 ：这是GAN训练中最大的难题之一，表现为生成器的输出多样性逐渐减少。例如，若生成器在生成逼真鞋子方面表现出色，它会更多地生成鞋子图像来欺骗判别器，进而逐渐忘记生成其他类别的图像。判别器也会因为只看到鞋子的假图像，而忘记区分其他类别的假图像。最终，当判别器能区分真假鞋子时，生成器会转向其他类别，如此循环，GAN难以在任何类别上达到理想效果。
• 参数不稳定 ：由于生成器和判别器不断相互对抗，它们的参数可能会出现振荡和不稳定的情况。训练可能一开始正常，但突然就会毫无征兆地偏离预期。而且，GAN对超参数非常敏感，需要花费大量精力进行