BEGAN: Boundary Equilibrium Generative Adversarial Networks的理解

BEGAN(Boundary Equilibrium GenerativeAdversarial Networks)-pyTorch实现 前言 近期对GAN做了些了解,目前GAN除了DCGAN,还有WGAN,WGAN-GP, LSGAN, EBGAN,BEGAN这些,简单了解了下,大多数涉及到数学的,我都没看懂,WGAN从很理论的角度提出了一些改进,但是一些paper说他收敛速度还不如DCGAN,目前还没有全部仔细阅读相关paper。 BEGAN:Boundary Equilibrium GenerativeAdversarial ... 阅读详情

BEGAN: Boundary Equilibrium Generative Adversarial Networks的理解

这是一篇2017年5月上传到arXiv上的文章,作者是David Berthelot,来自Google。Boundary Equilibrium译作“边界均衡”,文章创新的地方主要有以下几个地方:

  • 应用auto-encoder实现Discriminator
  • Discriminator的Loss_D由输入原图(input_img)与Decoder恢复的输出图(recover_img)之间的逐点error构成
    (v)=|v−D(v)|(1) L ( v ) = | v − D ( v ) | ( 1 )

    因而将产生两个Loss_D,分别为真图判别损失Loss_D_real,以及伪图判别损失Loss_D_fake。
  • Loss_D可看成是随机的分布,由real_img所形成的Loss_D_Real分布与由Generator生成的假图(fake_img)所形成的Loss_D_Fake分布,出现了两个分布,用Wasserstein Distance(简称WD)来衡量这两个分布的距离。Discriminator的目标是尽量拉开这两个分布的距离,而Generator的目标是缩小这两个分布的距离——GAN的基本思想。
  • 引入了一个均衡的概念来调节Discriminator训练时的两个目标的比重:目标1,是提高auto-encoder的重构能力,即auto-encoder恢复输入input_img的能力;目标2,提高D的分辨真伪的能力。该均衡控制量是可以变动的,就像是电路中的反馈环,构成了反馈比例控制(Proportional Control)迭代机制。

本文是以WD的出发点来解释和构造GAN的,以下是Wasserstein Distance的定义:

W(u1,u2)=infγ∈Γ(u1,u2)E(x1,x2)∼γ[|x1−x2|](2) W ( u 1 , u 2 ) = inf γ ∈ Γ ( u 1 , u 2 ) E ( x 1 , x 2 ) ∼ γ [ | x 1 − x 2 | ] ( 2 )

WD本来就是用来衡量两个分布的距离的,知乎上有一篇文章讲得很详细: https://www.zhihu.com/question/39872326?sort=created
在BEGAN中, u1 u 1 和 u2 u 2 是两个分布, u1 u 1 代表由real_img在Discriminator上生成的Loss_D,即Loss_D_real,而 u2 u 2 代表fake_img在Discriminator上生成的Loss_D,即Loss_D_fake。 W(u1,u2) W ( u 1 , u 2 ) 便是衡量这两个分布的距离。
(2)式右边是求1次范数均值的下确界。 x1 x 1 是服从 u1 u 1 的随机样本,同理, x
生成式对抗网络Generative Adversarial Networks(GANs)论文笔记 1. 前言 2. 参考资料 3. 研究背景 4. GAN的框架 4.1 对抗框架(Adeversarial Nets) *关于“无监督学习”的说明 4.2 Minimax two-player game(Loss) 4.3 Training procedure 5. GAN的应用 6. 结语 1. 前言 GAN(Generative Adversarial Network... 阅读详情

相关推荐

BEGAN论文阅读

论文: Berthelot D, Schumm T, Metz L. BEGAN: Boundary Equilibrium Generative Adversarial Networks[J]. arXiv preprint arXiv:1703.10717, 2017. 1、介绍 GANs是一类方法,这些方法能够学习数据分布并且实现从该分部中采样的模型。GANs的架构基于两个函数:生成器...

fazhenyao2018的博客 6305

GAN的Loss的比较研究(4)——Wasserstein Loss理解(2)

关于Wasserstein Distance的计算,似乎还有一个简单一点的计算方法,在《BEGAN: Boundary Equilibrium Generative Adversarial Networks》中给出了一个推导的过程: Wasserstein Distance的定义式如下: W(ℙr,ℙg)=infγ∈Π(ℙr,ℙg)E(x,y)∼γ[‖x−y‖](1)W(Pr,Pg)=infγ...

StreamRock的专栏 5942

GAN的Loss的比较研究(1)——传统GAN的Loss的理解1

GAN(Generative Adversarial Network)由两个网络组成:Generator网络(生成网络,简称G)、Discriminator网络(判别网络,简称D),如图: 图1 GAN概念图 因而有两个Loss:Loss_D(判别网络损失函数)、Loss_G(生成网络损失函数)。 Loss_D只有两个分类,Real image判为1,Fake image(由G生成)判为...

StreamRock的专栏 4万+

运维与软件实施课表

运维与软件实施课表 课程 章节编号 章节 课程地址 软件及操作系统基础 ch01 软件及操作系统基础01 实施、运维工程师基本技能:https://blog.youkuaiyun.com/qq_28189423/article/details/82700539 老毛桃制作winPE镜像:https://blog.youkuaiyun.com/qq_2818942...

Mr.O~的博客 1万+

别再傻傻分不清!用R语言5分钟搞定RR、AR、OR的计算与解读(附代码)

本文通过R语言实战演示,详细讲解了RR(相对风险)、AR(绝对风险)和OR(比值比)的计算方法与科学解读。提供完整的代码示例和可视化技巧,帮助医学研究者快速掌握这些核心流行病学指标的应用与常见陷阱规避。

weixin_42526015的博客 265

Vue项目实战:海康WebControl插件从安装到预览功能全流程(附RSA加密避坑指南)

本文详细介绍了在Vue项目中集成海康威视WebControl插件的全流程,从环境准备、插件部署到核心功能实现。重点解析了使用JS_RequestInterface获取RSA公钥并进行加密参数初始化的关键步骤与常见避坑指南,帮助开发者高效完成监控视频预览功能的开发与调试。

linux6sysadmin的博客 1227

算法面经手撕系列(2)--手撕BatchNormlization

手动实现/手撕BatchNormlization

罟霖同学的站点 867

RK3568笔记九十四:基于QT的YOLOV5目标检测

基于RK3568平台的实时目标检测应用,使用YOLOv5模型和RKNN推理引擎实现摄像头实时目标检测,并通过Qt界面显示检测结果。主要功能实时摄像头目标检测:从摄像头获取视频流,使用YOLOv5模型进行目标检测RKNN推理加速:利用RK3568内置的NPU进行模型推理加速图形界面显示:使用Qt框架构建用户界面,实时显示检测结果RGA图像处理:使用Rockchip Graphic Accelerator进行图像缩放处理。

523

从零搭建运行Pytorch版pointNet++模型全流程及个性化数据集训练测试可视化

从零搭建运行Pytorch版pointNet++模型全流程及个性化数据集训练测试可视化

funfan的博客 9433

DeepCAD: 使用深度自监督学习技术在Python中进行钙成像去噪的全面指南

钙成像是一种用于观察神经活动的技术,通过检测细胞内钙离子的变化来推断神经元的活动。由于其高时空分辨率和对活体组织的适应性,钙成像已经成为神经科学研究中的重要工具。然而,钙成像数据往往伴随着各种噪声,这些噪声可能来自于设备、生物样本或环境。为了获得准确的神经活动信息,去噪是非常关键的。深度自监督学习是一种使用未标记数据进行训练的机器学习方法。与传统的监督学习不同,它不需要大量的标记数据,而是通过学习数据的内部结构和模式来提取有用的特征。DeepCAD是一个基于深度自监督学习的钙成像去噪工具。

qq_38334677的博客 758

FAST-LIO论文公式解析

FAST-LIO论文公式解析

努力努力努力 670

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

上一篇: CUDA on Ubuntu: unsupported GNU version! gcc versions later than 5 are not supported!
下一篇: GAN的Loss的比较研究(1)——传统GAN的Loss的理解1
田神
博客等级 码龄17年 217粉丝 33原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值