GAN的Loss的比较研究（2）——传统GAN的Loss的理解2

田神

于 2018-07-18 23:10:24 发布

阅读量2.1k

点赞数 3

CC 4.0 BY-SA版权

分类专栏：机器学习与神经网络文章标签： GAN

本文链接：https://blog.youkuaiyun.com/StreamRock/article/details/81106989

本文深入探讨了GAN（生成对抗网络）的判别器损失函数，从条件概率的角度出发，通过分析真图和假图的联合概率，揭示了Discriminator输出与Ground Truth之间的差异可以用交叉熵衡量的过程。最终得出Loss_D的定义，即在训练时，判别器的目标是最大化真实样本的输出概率和最小化虚假样本的输出概率。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

判别器（Discriminator）输入一个图片 $\mathbf x$ ，输出y表示分类（仅有0和1两个分类）的概率，该模型可以很直观地用条件概率来描述—— $P_D(y|\mathbf x)$ ，于是展开有：
$P_{D}(y|\mathbf x) = \begin{cases} P_{D}(y=1|\mathbf x \in X_r) \\ P_{D}(y=0|\mathbf x \in X_r) \\ P_{D}(y=1|\mathbf x \in X_f) \\ P_{D}(y=0|\mathbf x \in X_f) \\ \end{cases} \qquad(1)$
上式中“ $\mathbf x \in X_f$ ”表示：样本 $\mathbf x$ 来自假图（Fake Images）集合 $X_f$ ，同理，“ $\mathbf x \in X_r$ ”表示：样本 $\mathbf x$ 来自真图（real Images）集合 $X_r$ 。 $P_{D}(y|\mathbf x)$ 表示给定输入 $\mathbf x$ 的条件概率，而 $P_{D}(y|\mathbf x)$ 恰好是判别器（Discriminator）的输出。
同理，Ground Truth也可以用这样的描述方式，并且有：
$P_{gt}(y|\mathbf x) = \begin{cases} P_{gt}(y=1|\mathbf x \in X_r)=1 \\ P_{gt}(y=0|\mathbf x \in X_r)=0 \\ P_{gt}(y=1|\mathbf x \in X_f)=0 \\ P_{gt}(y=0|\mathbf x \in X_f)=1 \\ \end{cases} \qquad(2)$