李宏毅机器学习笔记-GAN

最新推荐文章于 2023-09-28 15:04:38 发布
原创 最新推荐文章于 2023-09-28 15:04:38 发布 · 735 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #生成对抗网络 #人工智能

本文详细探讨了GAN的发展历程，介绍了生成器和鉴别器的工作原理，算法流程，理论基础，包括WGAN和条件GAN的进步。还涵盖了评价方法如IS和FID，以及CycleGAN和流行GAN的应用实例。
部署运行你感兴趣的模型镜像

从GAN的发展开始到GAN的基本理论再到GAN生成的评价方法最后到介绍流行的GAN方法。

 

一、GAN的基本介绍

 GAN的全名是Generative Adversarial Network生成对抗网络，其主要的目的是为了让训练机器让机器能够自主生成相对应类型的图片

其中生成器generator就是GAN中进行生成相对应类似分布的网络，而鉴别器Discriminator就是判别生成器生成是否为真假的网络，鉴别器通过将输入的图像转换成一个判别值来判断真假，值越大，图像越真实，目前的GAN已经发展了许多的种类，有各式各样的GAN网络。

 

 二、GAN的基本思想

 GAN的基本思想就是两个神经网络分别是generator和discriminator

其中生成器每次生成图像然后鉴别器会去判定判别生成器生成的图像 ，两者不断地生成判别相互对抗相互提升，到最后生成器生成的图像质量不断提升，判别器判别的能力也不断提升，这就是生成对抗式网络的基本思想，互相制约互相提高

三、GAN的算法流程

Step 1：初始化生成器和判别器的参数
Step 2：固定住生成器更新判别器，判别器给生成器的生成图像打低分给真实标签图像打高分
Step 3：固定住判别器更新生成器，生成器通过输入的随机采样的vector生成图像尝试骗过判别器使其让它打高分。

 四、GAN的理论部分

 1、GAN生成器的生成目标

GAN中生成器的目标是：将输入的正态分布数据经过生成网络变成类似真实标签分布的数据，而为了让分布尽可能相似就必须最小化两个数据分布之间的距离

 

 2、GAN中鉴别器的目标

既然生成器的目标是最小化生成数据和真实数据之间的距离那么鉴别器就是最大化两者的距离，针对如何计算生成数据和真实数据之间的距离，引入了JS散度的概念来计算，事实上也可以看成是交叉熵乘一个负号，如图所示：

 之前在计算网络输出和真实数据时往往都是一一对应的标签并且直接计算两者的L1或L2距离即可方便判断两个的差距，而在GAN中生成数据和真实数据往往不是一一对应，这就是JS divergence的巧妙之处，不需要知道生成数据和真实数据的具体形式，只需要通过鉴别器输出值和JS即可，当然不仅仅只有JS函数可以用还可以用其他很多的函数：


3、使用JS作为距离的缺点

    使用JS divergence的很大缺点就是：如果生成数据和真实数据采样不够多，两者之间没有任何重叠部分没有交集，那么JS计算出来的距离将恒等于log2，这将会直接导致generator无法提高 ，两者如果没有重叠即假设让divergence处于最大时即判别器最理想的时候，那么这时候计算出来的就是log2

4、WGAN和推土机距离

    推土机距离也称作Wasserstein distance，它最直观的好处就是当生成数据和真实数据无任何交集的时候它不会像JS一样处于恒等值的情况，如图所示，这就使得generator可以一直往好的方向去发展而不是直接停止

 WGAN中使用的就是推土机距离代替了JS距离，如图所示即为WGAN中新的距离公式：

 其中对于判别器，WGAN作出了限制即必须满足1-lipschitz的条件，该条件的目的是为了让生成数据和真实数据之间不会相差太大使得推算出来的推土机距离不会过大否则无任何意义，而WGAN中让判别器满足1-lipschitz的条件的方法其实相对较为简单如下图所示：

 

 当然现在也有很多其他1-lipschitz的方法比如谱归一化Spectral Normalization就是很好的例子，其有效的让梯度在各个地方都小于1防止梯度消失。

5、条件GAN

 条件GAN简单来说就是额外输入一段向量规定生成的图像需要包含什么特征，这就是条件GAN，其中额外输入的向量就是一段文字即将一段文字转换成vector输入generator和discriminator中 。

 除此之外，还有输入影像生成影像，条件GAN还可以应用到语音中，即输入是一段语音让GAN根据语音生成想象到的画面图像 

五、CycleGAN

 CycleGAN是典型风格转化生成的GAN

其主题思想是:训练四个网络并形成一个Cycle输入一幅图像生成另一个风格图像再让生成图像生成回原来的图像风格，这样的一个形式就是CycleGAN的主要思想，事实上它在训练四个网络包括两个生成器和两个判别器

六、GAN的评价方法

GAN生成的图像如何进行评价，这里使用到让其他网络来识别生成图像来得到正确分类的分布这样的一个间接判别方法，典型的方法就是Inception Score (IS)，通过判断分类的正确性来评价

 

 IS方法有很大的问题就是，它可以判断生成图像的正确类型但无法保证生成图像的多样性或者质量，比如生成图像如果都是同一个人的图像这样的正确性自然高，或者虽然多样性有但是在生成图像细节上没有得到保证，因此这都是潜在的问题，这就有了(FID)Fréchet Inception Distance,其主要的思想是通过最后输出分类的倒二层的特征来进行判别

 

您可能感兴趣的与本文相关的镜像

Swift-All

Swift-All

PyTorch
文本生成
Qwen
Qwen3
Qwen3-VL
图文对话

一个脚本，支持600+大模型与300+多模态大模型的权重下载，训练（预训练、微调、人类对齐）、推理、评测、量化与部署。

nousefully
关注
关于李宏毅GAN课程的一些笔记
weixin_43463276的博客
06-22 262
这里只记录一些看完1-4课后，被解决的困惑们。 一、为什么使用GAN GAN有生成器G和判别器D。 能不能只用生成器？ 可以，但是需要的网络更大更深。 能不能只用判别器？ 可以，但最终生成的结果可能会很模糊。 二、条件GAN 比如有一些文本描述，辅助生成图像。 三、数学理论 需要注意的一些小细节。 G就是为了让生成数据的分布和真实数据分布是一致的，例如真实数据是一些图像，世界上所有的图像组成一个高维的空间，真实的图像只占其中一部分，我们假设它们是满足某个分布PdataP_{data}Pdata​的，所
P11机器学习--李宏毅笔记GAN（对抗生成网络）
u013373155的博客
11-13 1424
GAN的基本概念 GAN的训练方法 训练GAN的目标 Model Collapse Model Dropping 计算多样性 Conditional GAN Condtitional GAN+Supervised learing cycle Gan
CycleGAN-style-stransfer
03-20
CycleGAN风格的传递 贡献者 特雷弗·莫特（Trevor Mott） 介绍 在本项目中，我们将获取一个包含莫奈绘画图像以及陆地景观和城市图像的数据集。我创建了一个CycleGANs模型。 商业案例 您是否可以训练一个模型，将风景转变成莫奈风格的绘画，以用于社交媒体过滤器？ 使用莫奈绘画的图片和照片使图片看起来像莫奈绘画。 探索性数据分析 莫奈绘画： 照片： 资料不平衡 这是约700幅莫奈风格的绘画和7000张照片的数据不平衡。 CycleGAN的建模过程 -创建4个CNN，两个生成器和两个判别器 将所有图像调整为256 X 256像素以保持一致性 为每个数据集创建的批量大小为300 第一位将主变成图片为僧侣，第二位将僧变成图片。 第一个辨别器检查是否是绘画，第二个辨别玩具则检查是否是照片。 最终CycleGAN模型 很难确定何时停止训练，我决定在250个时期后停止训练，我对发电机
李宏毅老师《机器学习》课程笔记-6 GAN
宁萌Julie的博客
06-16 1434
介绍GAN(Generative Adversarial Model)。
李宏毅机器学习笔记：GAN
qq_43711697的博客
08-30 4976
前言 主要记录李宏毅机器学习2021中介绍GAN部分的笔记，从GAN的发展开始到GAN的基本理论再到GAN生成的评价方法最后到介绍流行的GAN方法。 一、GAN的基本介绍 GAN的全名是Generative Adversarial Network生成对抗网络，其主要的目的是为了让训练机器让机器能够自主生成相对应类型的图片，其中生成器generator就是GAN中进行生成相对应类似分布的网络，而鉴别器Discriminator就是判别生成器生成是否为真假的网络，鉴别器通过将输入的图像转换成一个判别值来判断真
2021李宏毅机器学习笔记--23 Theory behind GAN
guoxinxin0605的博客
09-05 643
2021李宏毅机器学习笔记--23 Theory behind GAN摘要一、Maximum Likelihood Estimation(最大似然估计)二、MLE=Minimize KL Divergence（最小KL散度）三、Generator四、Discriminator五、D*和divergence的关系证明六、知识回顾:KL散度、JS散度和交叉熵七、G*的目标八、GD Algorithm for GAN九、In practice(实做中)十、Algorithm for GAN总结 摘要 本章节主
2021李宏毅机器学习笔记--11 explainable ML
guoxinxin0605的博客
06-19 540
2021李宏毅机器学习笔记--11 explainable ML摘要一、局部可解释性1.1 基本思想1.2 移除组成要素1.3 改变组成要素1.4 局限性1.5 实例（pokemon vs digimon）二、全局可解释性2.1 反向寻找理想输入2.2 输入正则化三、用模型解释模型3.1 使用线性模型3.2 使用决策树总结 摘要 可解释性分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断
2021李宏毅机器学习笔记--22 Generative Adversarial Network 01
guoxinxin0605的博客
08-29 766
@[TOC](2021李宏毅机器学习笔记–22 Generative Adversarial Network 01(GAN,生成式对抗网络)) 摘要 GAN是建立于神经网络的基础上的，其核心思想是“生成”与“对抗”，GAN网络结构包含两个模型，一个是生成模型（Generator），另一个是判别模型（Discriminator）。生成模型一般是使用反卷积神经网络或者全连接神经网络，通过输入的数据生成二维图像，而判别模型是一个卷积神经网络二元分类器，它的工作主要是负责判断生成模型所生成的图像是来自数据集的真
精选资源
【李宏毅机器学习笔记】6、简单介绍深度学习（Deep Learning）
01-06
【李宏毅机器学习笔记】1、回归问题（Regression） 【李宏毅机器学习笔记】2、error产生自哪里？ 【李宏毅机器学习笔记】3、gradient descent 【李宏毅机器学习笔记】4、Classification 【李宏毅机器学习笔记】5、...
【学习笔记-李宏毅】GAN（生成对抗网络）全系列（一）
iioSnail的博客
07-06 4266
前言 相关链接 1. Introduction 1. 1 Basic Idea of GAN 1.2 GAN as structured learning 1.3 Generator可以自己学吗？ VAE（Variational Auto-encoder） 2. CGAN, Conditional Generation by GAN 2.1 discriminator的架构改进 2.2 Stack GAN 2.3 Image-to-image 2.4 Speech Enhancement（提升语音的质量）
李宏毅 -生成对抗网络GAN课件 234页
11-30
李宏毅 -生成对抗网络GAN课件 234页 李宏毅 -生成对抗网络GAN课件 234页
李宏毅机器学习GAN的笔记
XiaoQiXiaoWei_J的博客
01-27 2970
搜索网页以及视频，对GAN的笔记，仅供参考，加入了很多自己的理解
李宏毅GAN学习笔记（02）
RookieFCB的专栏
03-30 500
GAN Lecture 2 Conditional Generation by GAN Algorithm In each traing iteration: Sample m positive examples {(c1,x1),(c2,x2),…,(cm,xm)}\{(c^1, x^1), (c^2, x^2), \dots, (c^m, x^m)\}{(c1,x1),(c2,x2),…...
GAN 李宏毅 课程笔记（一）
hn_lgc的专栏
09-01 527
Generator 不用想得太复杂，就是一个函数。函数的形式可以是NN。 输入一个向量，这个向量可以看成一个控制向量，用向量中的元素表示生成对象的属性。生成对象可以是不同的东西，图片矩阵，文字序列都可以，需要具体控制。 这可以弄出一个有趣的应用，通过改变输入向量，生成人脸渐变的中间图像。 比如用向量中的第一个元素表示头发的长度，导数第二个表示头发的颜色。 一样的，判别器也可以看成一个函数，可以是NN。它的输入是前面生成的对象，比如一张图片。输入是一个数字，就是生成对象的逼真程度，符合程度。 GAN的原
​李宏毅机器学习——对抗生成网络（GAN）
iwill323的博客
10-24 3030
​李宏毅机器学习——对抗生成网络（GAN）
【机器学习】李宏毅——生成式对抗网络GAN
FavoriteStar的博客
09-17 2186
本文非常详细的介绍什么是生成式对抗网络GAN，以及GAN内部的实现原理，包括各种GAN的训练技巧和变形等等内容。
李宏毅老师机器学习课笔记-生成对抗网络（GAN)
weixin_43113135的博客
05-26 346
GAN 李宏毅-课程笔记
qq_52736856的博客
09-28 282
用GAN的方式代替Seq2Seq的方式.将文本和摘要视为两个domain,依次来实现无监督的GAN.具体的实现和Cycle GAN类似.
李宏毅GAN笔记三fGAN
windy58的博客
01-27 431
二中提到，原始GAN存在JS Div距离偏差问题，由此需要限制训练次数。这里我们想表达“任何Div（统称为f-Div）都可放入GAN架构”。 1.f-Div定义： 重点：f（x）满足：f为凸函数且f（1）=0 以f-Div衡量P,Q的不同。二者完全一致，f-Div=0；不同，大于等于零。 f（x）不同，f-Div为不同Div。 2.Fenchel共轭（Fenchel Conjugate） 含义...
李宏毅机器学习笔记GAN
最新发布
02-11
### 李宏毅机器学习笔记中的GAN相关内容 #### GAN基本概念 生成对抗网络（Generative Adversarial Networks, GANs）由两个主要部分组成：生成器（Generator）和判别器（Discriminator）。生成器的目标是从随机噪声中生成逼真的样本，而判别器则试图区分这些生成的样本与真实的数据样本。两者通过相互竞争的方式共同训练，最终达到纳什均衡状态，在此状态下生成器能够生成几乎无法被识别出来的假样本[^4]。 #### 条件GAN的应用扩展 条件GAN是在标准GAN的基础上进行了改进，允许模型基于特定条件来控制生成的内容。具体而言，除了提供给生成器和判别器的标准输入外，还会附加一段描述期望特性的向量作为额外输入。这段向量可以是由文本转换而成的表示形式，从而指导生成过程按照指定的主题或风格进行创作。例如，可以通过输入一段文字说明让GAN创建具有相应属性的人脸图片；同样地，也支持利用语音信号引导图像合成任务。 #### 训练技巧与优化策略 为了提高GAN及其变体的有效性和稳定性，研究者们提出了多种辅助技术： - **Learning Rate Scheduling**: 动态调整学习率有助于改善收敛性能并防止过拟合现象的发生。一种常见的做法是采用Warm-Up机制——初期保持较低水平的学习速率以便充分探索损失曲面特性，随后逐步增加直至某个峰值后再缓慢降低，以此促进全局最优解的发现[^5]。 - **Regularization Methods**: 正则化手段如Dropout对于增强泛化能力至关重要。特别是在卷积神经网络架构下运用时，不仅能有效缓解过拟合风险，还能促使特征提取更加鲁棒可靠[^3]. ```python import torch.nn as nn class Generator(nn.Module): def __init__(self, input_dim=100, output_channels=3): super(Generator, self).__init__() # 定义生成器结构... def forward(self, z, condition_vector=None): # 实现前向传播逻辑... pass class Discriminator(nn.Module): def __init__(self, input_channels=3): super(Discriminator, self).__init__() # 定义判别器结构... def forward(self, image, condition_vector=None): # 实现前向传播逻辑... pass ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值