WDSR:Wide Activation for Efficient and Accurate Image Super-Resolution

最新推荐文章于 2024-05-06 10:47:00 发布
原创 最新推荐文章于 2024-05-06 10:47:00 发布 · 1.9k 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文介绍了WDSR方法，该方法通过在激活函数前增加特征宽度来提升图像超分辨率的效率和准确性。WDSR-A和WDSR-B是提出的新模型，其中WDSR-A通过先收缩后扩张的卷积层设计来保持复杂度，而WDSR-B使用线性低秩卷积解决通道数问题。此外，论文还提出Weight Normalization（WN）替代BN，以解决超分辨率任务中BN的局限性。实验结果显示，WDSR方法在性能和计算效率方面表现出优势。

Wide Activation for Efficient and Accurate Image Super-Resolution

Jiahui Yu,Yuchen Fan,Jianchao Yang,Ning Xu,Zhaowen Wang,Xinchao Wang,Thomas Huang

本文是NTRIE2018年超分辨率比赛的冠军。

主要贡献

  1. 论文提出在激活函数前with expand feature可以使更多信息通过，提升网络性能，基于此提出WDSR-A。
  2. 论文使用linear low-rank convolution作为基本的模块，提出WDSR-B。
  3. 论文发现weight norｍalization对SR问题有改进。

WDSR-A

论文发现如果直接增加激活函数前的通道数，在不引入更多参数的情况下，对网络性能的提升没有任何作用。于是论文为了保证复杂度不上升，同时还加宽激活函数前的通道数，提出了一种先使通道数变窄再加宽的方法，提出了WDSR-A。

 WDSR-A的残差块结构如中间的图，和左边的图RB比较，可以看出它把第一个卷积层变窄，而把激活函数前面的卷积层变宽了。假设第一个卷积层的宽度为w_{1}，激活函数前的卷积层宽度为w_{2}，在RB中

最低0.47元/天 解锁文章
【图像超分】论文精读：Wide Activation for Efficient and Accurate Image Super-Resolution（WDSR）
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
04-01 6347
在本文中，我们证明了在相同的参数和计算预算下，ReLU激活前具有更广泛特征的模型对于单图像超分辨率 (SISR) 具有显着更好的性能。生成的 SR 残差网络在每个残差块的激活之前具有更宽的 (2× 到 4 倍) 通道的小恒等映射路径。为了在不增加计算开销的情况下进一步扩大激活(6×到9×)，我们在SR网络中引入线性低秩卷积，实现了更好的精度-效率权衡。此外，与批量归一化或没有归一化相比，我们发现使用权重归一化进行训练可以提高深度超分辨率网络的准确性。我们提出的SR网络WDSR在计算复杂度相同或更低的PSNR
wdsr 论文阅读笔记
qq_40107571的博客
07-18 420
所以，作者提出了线性低秩卷积，这是将一个大的卷积核分解为两个低秩的卷积核。为了，解决这个问题，提出了SRDenseNet,RDN,MemNet，这些方法主要是引入了各种跳跃连接、浅层特征和深层特征之间的级联操作。摘要这篇论文作者证明了同样的参数和计算量，在激活函数之前有更多的特征图模型的性能就越好。基于残差结构，作者证明了在激活函数之前简单的扩展特征图的数量模型的性能得到巨大的提升。当网络的深度特别深的时候，比如说MDSR的深度达到了180层，没有BN的训练十分困难。神经网络的深度是非常重要的。...
WDSR-Wide Activation for Efficient and Accurate Image Super-Resolution 论文代码
12-25
WDSR,Wide Activation for Efficient and Accurate Image Super-Resolution论文代码，pytorch实现，欢迎各位下载！
Accurate Image Super-Resolution Using Very Deep Convolutional Networks
weinidakaishijian的博客
07-20 4781
Accurate Image Super-Resolution Using Very Deep Convolutional Networks 摘要   我们提出了一种高精度的单图像超分辨率（SR）方法。我们的方法使用了一个非常深的卷积网络，灵感来自于用于ImageNet分类的VGG网络。我们发现网络深度的增加可以使得精度的显著提高。 我们的最终模型使用20层。通过在深层网络结构中多次级联
【文章阅读】【超解像】-- Wide Activation for Efficient and Accurate Image Super-Resolution
happyday_d的博客
12-31 1251
【文章阅读】【超解像】-- Wide Activation for Efficient and Accurate Image Super-Resolution 论文链接：https://arxiv.org/abs/1808.08718v1 code：https://github.com/JiahuiYu/wdsr_ntire2018 本提出的网络结构在NTIRE2018比赛中SISR中获得了3个第...
Wide Activation for Efficient and Accurate Image Super-Resolution（WDSR）
zhangwl27的专栏
01-31 2520
摘要   在本文中我们论证了，针对单图像超分辨率（SISR），在相同参数和计算量下，在ReLU激活之前具有更宽的特征的模型明显有更好的效果。得到的SR残差网络在每个残差block中激活函数前有一个轻便等价但更宽路径（1x到4x）映射路径。为了在不增加计算开销的下进一步扩大激活（6x到9x），我们引入线性低秩卷积到SR网络中，获得了更好的精度-效率的平衡。此外，我们发现对于深的SR网络用归一化权...
【超分辨率（Super-Resolution）】关于【超分辨率重建】专栏的相关说明，包含专栏简介、专栏亮点、适配人群、相关说明、阅读顺序、超分理解、实现流程、研究方向、论文代码数据集汇总等
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
03-25 2万+
本专栏研究领域为【超分辨率重建】，涵盖图像超分、视频超分，实时超分，4K修复等方面。主要内容包括主流算法模型的论文精读、论文复现、毕业设计、涨点手段、调参技巧、论文写作、应用落地等方面。算法模型从SRCNN开始更新至今，一般是一篇论文精读对应一篇论文复现。论文精读详解理论，归化繁为简，归纳核心，积累词句，培养阅读论文和论文写作能力。论文复现依托Pytorch代码，实现完整的模型训练流程，总结调参方法，记录碰到的bug，论文插图可视化，培养读写代码能力、做实验的能力、以及应用落地能力。
论文阅读笔记六十六:Wide Activation for Efficient and Accurate Image Super-Resolution(CVPR2018)...
weixin_33798152的博客
06-01 366
论文原址:https://arxiv.org/abs/1808.08718 代码:https://github.com/JiahuiYu/wdsr_ntire2018 摘要 本文证明在SISR中在ReLU之前特征图越宽，在有效的计算资源及内存条件下，模型的性能越好。本文提出的残差网络具有平滑的identity mapping pathway，在激活层之前，每个bloc...
Wide Activation for Efficient and Accurate Image Super-Resolution文章解读
breezero的博客
06-02 893
Wide Activation for Efficient and Accurate Image Super-Resolution 文章地址：https://arxiv.org/abs/1808.08718v1 论文代码：https://github.com/JiahuiYu/wdsr_ntire2018 最近才看到这篇文章，我认为里面有好多东西还是很不错的，至少文中不...
Deep Neural Network for Fast and Accurate Single Image Super-Resolution via Channel-Attention-based
qq_34049103的博客
03-08 368
本文提出现行超分网络中存在大量参数，运算复杂，为了解决这些问题，本文提出了将一维卷积与二维卷积联合起来使用以定向提取特征，并减少参数。 该网络的总体架构较为简单，将低分辨率图片输入后经过33的卷积提取浅层特征后，输入到OAM块中进一步提取定向特征，通过全局注意力机制，最后通过两个33卷积降维hou，亚像素到高分辨率图片。 此网络的创新点主要在于oam中的利用1维卷积进行定向采样，从而更充分的提取...
win32超分辩重建WDSR实用程序
04-29
超分辨率重建WDSR(2倍)的win32程序，使用tf_estimator_barebone-master 中的模型wdsr_saved_model.pb
超分辨率：WDSR
qq_41332469的博客
06-25 2480
WDSR为2018年超分冠军模型，模型与EDSR相比，主要有以下几点改进： （1）改变模型基本框架 （2）增加channel个数 （3）WN（权重归一化） 权值归一化是神经网络中权值向量的重新参数化，实际就是重新定义权值w的大小和方向。 由下图可以看出，新的w的大小等于g，方向与v一致。 引入WN可以提高训练的学习效率(即10×)，提高训练和测试的准确性。 详细介绍参见：https://blo...
基于深度学习框架的超分辨率问题三之WDSR
hh_2018的博客
12-24 4061
WDSR是18年比较新的模型，现在又对应的官方pytorch版本，其链接为：https://github.com/JiahuiYu/wdsr_ntire2018 WDSR（2018年冠军模型） 模型架构 主要由于目前使用的结构要么是丢失掉了浅层的信息，比如上述提到的网络，通过各种激活函数，当浅层信息传递到最后时已经丢失了；要么就是采用跳跃链接的方式比如SRDenseNet，此时虽然浅层信息通...
WDSR(NTIRE2018超分辨率冠军)【深度解析】
热门推荐
木盏
12-17 3万+
s超分辨率(super-resolution)的通俗解释就是：将低分辨率的图像通过算法转换成高分辨率图像。听起来似乎很神奇，这样是不是可以把低清电影转换成高清了？就现在来看，基于深度学习的超分辨率(简称SR)已经达到了amazing的效果。 当然，以木盏的习惯就是，只在博文中讨论干货。 这篇博文要解析的算法叫做WDSR，来自UIUC的华人学生JiaHui Yu的论文。在SR界有一个比赛，叫做N...
WDSR实验记录
Doreenqiuyue的博客
08-26 813
WDSR是在EDSR代码的基础上实现的，代码链接在这里 阅读目录一、准备过程1.1 代码修改1.2 操作准备二、训练2.1 训练命令2.2 训练结果2.3 loss曲线2.4 PSNR曲线三、测试3.1 测试命令3.2 测试结果3.3 效果图展示 一、准备过程 1.1 代码修改 参考这里 1.2 操作准备 参考 二、训练 2.1 训练命令 !python main.py --model wdsr_b --epochs 50 --scale 2 --save wdsr_b_x2 --n_resblocks 3
「Wdsr-1」人间之里
青烟绕指柔的博客
04-07 364
题目链接：「Wdsr-1」人间之里 显然我们选择的位置就是区间重心。 然后怎么快速找重心呢？二分+线段树？显然复杂度太高两个log。 我们可以先求出区间 s1=[-up,l-1]和s2=[l,r]的个数。 那么重心就为：kth(s1+(s2+1)/2)。 然后根据重心直接算就行了。 AC代码： #pragma GCC optimize("-Ofast","-funroll-all-loops"...
深度学习之超分辨率重建技术（Super-Resolution）总结：从 SRCNN 到 WDSR
种树最好的时间是10年前，其次是现在！！！
05-31 1万+
专栏【超分辨率】 目录1、前言2、网络详解2.1、SRCNN :)2.2、VDSR :)2.3、DRCN :)2.4、ESPCN :)2.5、SRGAN :)2.6、EDSR :)2.7、DBPN :)2.8、WDSR :)3、参考论文4、未来计划 1、前言 超分辨率重建技术（Super-Resolution）是指从观测到的低质量、低分辨率图像重建出相应的高质量、高分辨率图像。 Super-Res...
【图像超分】论文复现：Pytorch实现WDSR！保姆级复现教程！代码注释详尽！完整代码和x2、x3、x4下的最优模型权重文件可以直接用！绘制论文曲线图！计算主流测试集的平均PSNR和SSIM！
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
05-06 2689
论文题目：Wide Activation for Efficient and Accurate Image Super-Resolution —— 高效、准确的图像超分辨率的广泛激活【图像超分】论文精读：Wide Activation for Efficient and Accurate Image Super-Resolution（WDSR）请配合上述论文精读文章使用，效果更佳！
WDSR论文阅读笔记
read, note and comment papers
07-22 969
在ReLU前有更宽的channel有助于提高acc，在相同数量的参数下，使需要做res-identity传播的层的channel数量减少而增多ReLU层前的channel的数量。 要Weight-Normalization而不是batch-normalization，能提供更好的acc和更快的收敛，batch normalization 在SR中被抛弃了 linear-low-rank c...
NeXtSRGAN: enhancing super-resolution GAN with ConvNeXt discriminator for superior realism复现
最新发布
04-01
### NeXtSRGAN 超分辨率 GAN 的实现 NeXtSRGAN 是一种基于 Super-Resolution GAN 的改进模型，其核心在于利用 ConvNeXt 构建判别器网络以提升图像细节的表现力和生成质量。以下是有关其实现的关键部分： #### 判别器设计 ConvNeXt 结构被引入到判别器的设计中，通过分层特征提取来增强对高分辨率图像真实性的判断能力。ConvNeXt 使用深度可分离卷积以及残差连接机制，在保持计算效率的同时提升了性能[^1]。 ```python import tensorflow as tf from tensorflow.keras import layers def convnext_block(input_tensor, filters, kernel_size=7): x = layers.DepthwiseConv2D(kernel_size=kernel_size, padding='same')(input_tensor) x = layers.LayerNormalization(epsilon=1e-6)(x) x = layers.Dense(filters * 4)(x) x = layers.Activation('gelu')(x) x = layers.Dense(filters)(x) return layers.Add()([input_tensor, x]) def build_discriminator(img_shape=(128, 128, 3), num_blocks=3): input_img = layers.Input(shape=img_shape) x = layers.Conv2D(64, kernel_size=3, strides=2, padding="same")(input_img) x = layers.LeakyReLU(alpha=0.2)(x) current_filters = 64 for _ in range(num_blocks): x = convnext_block(x, current_filters) current_filters *= 2 if current_filters > img_shape[-1]: break x = layers.Conv2D(current_filters, kernel_size=3, strides=2, padding="same")(x) x = layers.LeakyReLU(alpha=0.2)(x) x = layers.Flatten()(x) output = layers.Dense(1, activation='sigmoid')(x) model = tf.keras.Model(inputs=input_img, outputs=output, name="convnext_discriminator") return model ``` 上述代码展示了如何构建一个基于 ConvNeXt 的判别器架构。它采用逐步下采样的方式减少空间维度并增加通道数，从而捕获更深层次的语义信息[^2]。 #### 生成器设计 对于生成器而言，可以借鉴已有的超分辨率技术如 EDSR 或 RCAN 来搭建基础框架，并调整参数适配具体应用场景需求[^3]。 ```python def res_block(input_tensor, filters): shortcut = input_tensor x = layers.Conv2D(filters, kernel_size=3, padding='same', use_bias=False)(input_tensor) x = layers.ReLU()(x) x = layers.Conv2D(filters, kernel_size=3, padding='same', use_bias=False)(x) return layers.Add()([shortcut, x]) def upscale_ps(input_tensor, factor=2): return layers.UpSampling2D(size=factor, interpolation='bilinear')(input_tensor) def build_generator(lr_shape=(32, 32, 3)): inputs = layers.Input(shape=lr_shape) x = layers.Conv2D(64, kernel_size=9, padding='same')(inputs) x = layers.ReLU()(x) residual = x for _ in range(16): x = res_block(x, 64) x = layers.Conv2D(64, kernel_size=3, padding='same')(x) x = layers.BatchNormalization()(x) x = layers.Add()([residual, x]) x = upscale_ps(x, factor=4) out = layers.Conv2D(3, kernel_size=9, padding='same', activation='tanh')(x) generator_model = tf.keras.models.Model(inputs=[inputs], outputs=out, name="generator") return generator_model ``` 此段脚本定义了一个典型的残差块堆叠型生成器结构，适用于大多数 SISR（Single Image Super Resolution）任务中的低频重建阶段。 #### 训练过程概述 训练过程中需注意平衡生成器与判别器之间的对抗关系，通常会设置不同的损失函数组合来优化整体表现效果。例如 LSGAN 提倡使用的最小二乘误差替代传统交叉熵作为目标函数之一；而针对特定数据集特性还可能加入感知损失(perceptual loss)，风格迁移项(style transfer term)等辅助约束条件进一步改善视觉体验品质。 ---
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值