原始GAN训练流程与存在问题

最新推荐文章于 2025-02-20 23:00:17 发布

Fogjio

最新推荐文章于 2025-02-20 23:00:17 发布

阅读量1.2k

点赞数 2

分类专栏：深度学习文章标签： pytorch 深度学习神经网络

本文链接：https://blog.youkuaiyun.com/weixin_41745620/article/details/104552965

版权

本文深入探讨了原始GAN的训练流程，包括先训练Generator再训练Discriminator的原因，以及训练过程中遇到的问题，如重复模型、训练不稳定、噪音不真实等。通过分析，揭示了在达到最优判别器时，GAN模型可能无法达到最优解的原因，并引用WGAN的改进思路，阐述了训练过程中的困难及模型震荡的原理。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1.简单的GAN训练流程

1训练流程

创建标签，判别器Discriminator区分Real Image和Fake Image归根结底是一个二分类。这里不能用数据集自带标签。

valid = Tensor(image.size(0), 1).fill_(1.0).detach()  # Tensor(batch size row,1), fill 1.0 mark Real Image 
fake = Tensor(image.size(0), 1).fill_(0.0).detach()	# .detach() mean with no grad / requires_grad = False

先训练Generator

第一步：先用Tensor生成符合任意分布的噪声数据z，z . shape = (Batch Size, input_Dim)例如程序中将噪声输入数据维度可设置为100。

第二步：生成数据G(z)，并对G(z)添加标签，目的是为了愚弄判别器。

第三步：生成损失值，这里损失值来源于判别器D(G(z))

第四步：BP & 更新步骤

optimizer_G.zero_grad() # 对已有的gradient清零，因为有新来的Batch 
# 第一步
z = Tensor(np.random.normal(0, 1, (batch_size, input_Dim)))
# 第二步
gen_imgs = generator(z)
# 第三步
g_loss = adversarial_loss(discriminator(gen_imgs), valid)
# 第四步
g_loss.backward(

最低0.47元/天解锁文章