tf.keras实现ESRGAN相对平均判别器RaGAN损失

最新推荐文章于 2025-10-30 13:17:41 发布
原创 最新推荐文章于 2025-10-30 13:17:41 发布 · 1.8k 阅读 · 5 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文介绍了如何在TensorFlow中定义自定义损失函数，特别是针对ESRGAN（增强超分辨率生成对抗网络）中的相对鉴别器损失。通过直接定义损失函数，作者展示了如何计算并实现鉴别器和生成器的损失，涉及到关键步骤包括计算平均值、sigmoid激活以及交叉熵的变形式。文章强调了理解损失函数计算维度的重要性，并提供了详细的代码示例。

引言

当tf.keras.losses中的损失函数不够用的时候，就需要我们自己来定义一部分损失函数，来达到我们的需求。

方法

有两种方法来定义我们的损失函数，第一种是直接定义，第二种是子类化tf.keras.losses.Loss。我们来介绍第一种。

损失函数

我们要实现ESRGAN中的这种raletivistic discirminator的损失函数。下面是原文：
在这里插入图片描述
首先看到，这种鉴别器分别对fake和real作为输入，输出结果。然后，以Dra(xr, xf)为例，首先求取fake的预测的一个batch的平均值，然后用real预测去减这个平均值，最后求一个sigmoid，作为Dra(xr, xf)。
得出这个结果之后，显然Discriminator的想法是让Dra(xr, xf)最大化，由于经过了sigmoid激活，等价于让Dra(xr, xf)接近于1。同时，让Dra(xf, xr)最小化，由于经过sigmoid激活，等价于让其接近于0。
观察这个形式，发现就是交叉熵的形式，可以计算出两个Dra的形式之后，调用keras的交叉熵进行计算，我们为了更加细化，不调用交叉熵函数。

    def discriminator_loss(real_output, fake_output
最低0.47元/天 解锁文章
ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks 翻译
黄笳倞的博客
01-13 1万+
ESRGAN：增强型超分辨率生成对抗网络 项目地址：https://github.com/xinntao/BasicSR 摘要 超分辨率生成对抗网络（SR GAN）[1]是一项开创性的工作，能够在单图像超分辨率期间生成逼真的纹理。 然而，幻觉细节通常伴随着令人不快的伪影。 为了进一步提高视觉质量，我们深入研究了SRGA...
图片超分辨率python_单图片超分辨率Keras实现库(EDSR, SRGAN, SRFeat, RCAN, ESRGAN, ERCA)...
weixin_39755873的博客
11-28 763
Single Image Super Resolution, EDSR, SRGAN, SRFeat, RCAN, ESRGAN and ERCA (ours) benchmark comparisonThis is a keras implementation of single super resolution algorithms:EDSR,SRGAN,SRFeat,RCA...
【Super Resolution】超分辨率——ESRGAN
PRIS-SCMonkey的博客
09-09 6223
1、ESRGAN的简单了解2、ESRGAN的网络结构3、ESRGAN中的判别器 在上一篇文章【Super Resolution】超分辨率——SRGAN中，我们详细的介绍了SRGAN，那么是否SRGAN可以再进行改进呢？这就是ESRGAN，这篇论文主要探讨的问题就是如何在SRGAN上做改进，是网络在超分问题上有更好的表现。这篇论文在PIRM 2018-SR Challenge1中拿了第一名，然后论...
图像超分辨率：ESRGAN 模型实现低清图像放大与细节增强
最新发布
asxascas的博客
10-30 424
判别器不仅评估图像真实性，还比较生成图像与真实图像的相对质量： $$ D_{Ra}(I_{HR}, I_{SR}) = \sigma(C(I_{HR}) - \mathbb{E}[C(I_{SR})]) $$ $\sigma$为sigmoid函数，$C$为特征提取器。{i} \lambda_i | \phi_i(I_{HR}) - \phi_i(G(I_{LR})) |_1 $$ $\phi_i$为VGG网络第$i$层特征图，$\lambda_i$为权重系数。
[论文笔记]ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks
weixin_42105640的博客
08-13 1276
[论文笔记]ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks 解析1 解析2 代码 本篇论文是基于SRGAN改进而来到,相比于SRGAN它在三个方面进行了改进： 1.网络的基本单元从基本的残差单元变为Residual-in-Residual Dense Block (RRDB)； 2.GAN网络改进为Relativ...
(ESRGAN)增强型超分辨率生成对抗网络-解读与实现
weixin_34390996的博客
06-03 4699
我们知道GAN 在图像修复时更容易得到符合视觉上效果更好的图像，今天要介绍的这篇文章——ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks，它发表于 ECCV 2018 的 Workshops，作者在 SRGAN 的基础上进行了改进，包括改进网络的结构、判决器的判决形式，以及更换了一个用于计算感知域损失的预训练网络。...
Keras-Image-Super-Resolution:EDSR，RCAN，SRGAN，SRFEAT，ESRGAN
05-03
单图像超分辨率，EDSR，SRGAN，SRFeat，RCAN，ESRGAN和ERCA（我们的）基准比较 这是单个超分辨率算法的keras实现： ， ， ， ， 和 （我们的）。 该项目旨在提高基线（SRFeat）的性能。 要运行此项目，您需要设置环境，下载数据集，运行脚本以处理数据，然后可以训练和测试网络模型。 我将逐步向您展示运行该项目，我希望它足够清楚。 先决条件 我在Corei7、64G RAM，GPU Titan XP中测试了我的项目。 因为培训大约需要几天的时间，所以我建议您使用足够强大的CPU / GPU和大约12G的RAM。 环境 我建议您使用virtualenv创建虚拟环境。 您可以通过以下方式安装virtualenv（本身是一个pip软件包） pip install virtualenv 使用python3创建一个名为venv的虚拟环境，一次运行 virtua
YOLO v的一个简单tf.keras实现_A simple tf.keras implementation of YO
09-01
不仅如此，tf.keras实现的YOLO v4可能还引入了更多的改进，例如更先进的损失函数设计、数据增强策略等。通过这些改进，模型能够更好地泛化到新的、未见过的数据上，这在目标检测任务中是极其重要的，因为实际应用中...
tf.keras_分类模块数据归一化.ipynb_quietlyxoc_keras_归一化_lateory_tf.keras_源
10-01
在`tf.keras`中，数据归一化可以通过多种方式实现： 1. **特征缩放（Feature Scaling）**：包括最小-最大规范化（MinMax Scaling）和标准化（Standardization）。前者通过减去最小值然后除以最大值实现，后者则是...
tf.keras.layers.Layer自定义层
12-20
class MyLayer(tf.keras.layers.Layer): def __init__(self, output_dim, **kwargs): self.output_dim = output_dim super(MyLayer, self).__init__(**kwargs) def build(self, input_shape): # Create a ...
ESRGAN: 增强型超分辨率生成对抗网络
码灵分析
12-20 3470
译者语：最近在老影片复原中常用到的超分辨率算法 摘要 Abstract 超分辨率生成对抗网络（SR GAN）[1]是一项开创性的工作，它能够在单图像超分辨率任务中生成逼真的纹理。然而，虚幻的细节通常伴随着令人不快的伪影。 为了进一步提高视觉质量，我们深入研究了SRGAN 网络架构，对抗性损失和感知损失这三个关键组成部分，并对其中每一项都进行了改进，产生了一个增强型SRGAN（ESRGAN）。 特别需要注意的是，我们在没有使用批量标准化的情况下引入RRDB Residual-in-Residual Den
ESRGAN
lk137095576的博客
05-13 1721
ESRGAN论文阅读笔记 《ESRGAN: Enhanced Super-Resolution Generative Adversarial Networks》
复制论文代码“相对论性鉴别器：标准GAN缺少的关键要素”-Python开发
05-25
论文复制代码“相对论鉴别符：标准GAN缺少的关键元素相对论GAN复制论文所有分析的代码相对论鉴别符：标准GAN缺少的关键元素现在在ICLR 2019上接受：https：// openreview .net / forum？id = S1erHoR5t7＆noteId = S1erHoR5t7:grinning_cat_with_smiling_eyes:注意：几乎相同代码的更新版本，具有更多功能，请参见：https://github.com/AlexiaJM/relativistic-f-divergences在https：//上的讨论ajolicoeur.wordpress.com/RelativisticGAN。引文如果您发现此代码有用，请在您的工作中引用我们。
[解读] The relativistic discriminator: a key element missing from standard GAN
天在那边
05-30 5100
在标准的 GAN 中, 鉴别器用来估计输入样本为真实样本的概率, 生成器用来生成逼真的样本, 来提高被鉴别器鉴别为真实样本的概率. 然而本文提出生成器应该同时降低真实样本的真实性的概率. 首先因为这符合一个先验知识, 即在一个批次中有一半数据是真实的, 并且可以用散度最小化来验证这个设想, 在最佳设置中, 标准的 GAN 等效于积分概率度量 (IPM) 的 GAN. 作者表明相对鉴别器 (relativistic discriminator) 能够产生这样的效果, 即用来估计真实样本比虚假样本更真实的概率.
超分中的GAN总结：常用的判别器类型和GAN loss类型
BigerBang的博客
08-24 2426
总结了GAN在图像超分辨率中的应用，包括常用的判别器类型：经典的分类网络、patch gan和unet和GAN loss类型: gan、wgan、lsgan、ragan
《小V读研笔记》#ESRGAN 论文详解
m0_67853978的博客
04-05 879
提出的 RRDB 具有残差中残差的结构，主干部分由三个残差密集块组成，残差密集块相当于将残差块与密集块相结合。因此，本文深入研究了 SRGAN 的三个关键组成部分——网络架构、对抗损失和感知损失，并对它们进行了改进，从而得到了一种增强型 SRGAN (ESRGAN)。生成器的对抗损失包含 xr 和 xf。由于 ESRGAN 的生成网络具有更深、更复杂的结构，因此本文通过残差缩放和较小的初始化来促进网络的训练。在将残差添加到主干部分之前，通过乘以 0 和 1 之间的常数来缩小残差，有利于增强网络的稳定性。
论文详解EnlightenGAN: Deep Light Enhancement Without Paired Supervision
仅用于分享论文心得和技术
11-20 7348
深度学习方法虽然在图像重建和增强上已经取得了显著的成功，但是他们对于图像的要求都比较高，需要成对的图像数据来进行训练，甚至有的算法对图片质量要求极高。那么如何进行非成对的数据这样在实践当中是一个很严重的问题。作者提出了一个无监督的生成对抗网络EnlightenGAN,它可以在没有配对数据的情况下进行训练。他提出了一系列的创新，包括全局-局部鉴别器结构，自正则化感知损失，以及自正则注意机制。经过实验证明，作者的模型能够很容易适应增强现实世界的各种图像。
图像的超分辨率重建SRGAN与ESRGAN
热门推荐
qxqsunshine的博客
12-23 1万+
SRGAN 传统的图像超分辨率重建方法一般都是放大较小的倍数，当放大倍数在4倍以上时就会出现过度平滑的现象，使得图像出现一些非真实感。SRGAN借助于GAN的网络架构生成图像中的细节。 训练网络使用均方误差（MSE）能够获得较高的峰值信噪比（PSNR），但是恢复出来的图像会丢失图像的高频细节信息，在视觉上有不好的体验感。SRGAN利用感知损失（perceptual loss）和对抗损失（adv...
ESRGAN超分辨网络
不要给自己设限，尝试更多可能（思所向 皆可往）
04-19 3647
ESRGAN-进击的超分辨率复原 - 知乎研究目的：通过改进SRGAN（Super-Resolution Generative Adversarial Network）来提高视觉质量。ESRGAN是基于SRGAN改进而来到,相比于SRGAN它在三个方面进行了改进1、改进了网络结构、对抗损失、感知损失2、引入Residual-in-Residual Dense Block（RRDB）3、使用激活前的VGG特征来改善感知损失。
tf.keras.Sequential实现对模型输入的每个字段预处理
04-12
### 使用 `tf.keras.Sequential` 进行模型输入字段预处理的方法 在 TensorFlow 中，可以利用 `tf.keras.layers.DenseFeatures` 层对模型的输入字段进行预处理。此层允许将多个特征列组合在一起并传递给模型作为输入[^2]。 以下是实现这一功能的关键步骤： #### 创建特征列 首先定义所需的特征列，这些特征列可以分为数值型和分类型两类： - 数值型特征可以直接表示为连续值。 - 分类型特征通常需要经过嵌入或独热编码等方式转换成适合模型使用的格式。 ```python import tensorflow as tf # 定义数值型特征列 numerical_columns = [ tf.feature_column.numeric_column('feature_1'), tf.feature_column.numeric_column('feature_2') ] # 定义分类型特征列 categorical_columns = [ tf.feature_column.categorical_column_with_vocabulary_list( 'category_feature', ['A', 'B', 'C']), tf.feature_column.embedding_column( categorical_column=tf.feature_column.categorical_column_with_hash_bucket( key='hash_category', hash_bucket_size=10), dimension=8) ] ``` #### 组合特征列 将上述两种类型的特征列组合起来形成完整的输入层结构。 ```python preprocessing_layer = tf.keras.layers.DenseFeatures(numerical_columns + categorical_columns) ``` #### 构建 Sequential 模型 将预处理层与后续隐藏层串联起来构成最终的模型架构。 ```python model = tf.keras.Sequential([ preprocessing_layer, tf.keras.layers.Dense(128, activation='relu'), tf.keras.layers.Dense(64, activation='relu'), tf.keras.layers.Dense(1, activation='sigmoid') # 输出层 ]) ``` #### 编译与训练模型 完成模型搭建后即可编译并开始训练过程，在这里我们采用二元交叉熵损失函数配合 Adam 优化器来进行参数调整。 ```python model.compile( loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'] ) history = model.fit(train_data, epochs=20) ``` 以上流程展示了如何借助 `DenseFeatures` 实现基于 `Sequential API` 的复杂输入数据预处理机制。 --- ### 问题
评论 3
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值