论文阅读:Single Image Deraining using a Recurrent Multi-scale Aggregation and Enhancement Network

Single Image Deraining using a Recurrent Multi-scale Aggregation and Enhancement Network

基于递归的多尺度聚合增强网络的单幅图像去雨

写在最前面:主要是对阅读的文献记录一下
文献地址:https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=8784948
代码:https://github.com/nnUyi/ReMAEN

1.概述

本篇文章是2019 ICME的一篇文章,篇幅较短,短小精悍。
首先是对前人的去雨方面的处理方法进行了一个比较系统的总结,然后结合递归的结构提出了一个ReMAEN网络结构进行去雨方面的处理。网络结构对SENet做了较多借用。

本文主要提出了一种方法:Recurrent Multi-scale Aggregation and Enhanement Network(ReMAEN).
ReMAEN 包含一个对称的结构,在这个结构中,具有共享通道注意的重复块被应用于协作地选择有用的信息,并逐步删除雨条纹。

ReMAEN网络结构主要是利用递归模块构造出对称的网络结构,并结合相邻阶段之间的相关性来逐渐去除雨纹。同时,在每个递归模块的隐藏状态中应用一个共享的信道注意模块协同选择有用信息。其中模块MAEB用于表征不同尺度下雨纹的细节,同时这些模块采用对称跳跃式链接,保持雨纹细节从低到高流动。并且使用边缘损失来保存内部纹理。

2.网络框架

在这里插入图片描述

其中,网络的前半部分是雨的细节提取路径,后半部分是雨的细节响应路径,它们共同组成了ReMAEN网络。将包含雨纹的图片作为输入,通过ReMAEN网络,通过一个RMG模块来生成雨图Rt,再将第t-1次的输入与生成的雨图Rt做差,得到去雨之后的图片以及第t次的输入。
在这里插入图片描述

图中,MAEB包含了一个MAB网络和一个SE网络。MAB包含p条路径,每条路径有卷积层和激活层两层,使用leaky relu作为激活函数,完成多尺度的雨纹特征提取。并且使用一个SE网络来更好地模拟多尺度雨的细节的内在相互依赖性。同时,这些SE网络组成一个channel-attention
模块分享相同的参数。RB则是用来保持有用的信息,shared SE在每个重复的模块后面来共享相同的参数,帮助RBs选择有用的信息。最后面是一个RMG雨图生成模块,也是一个SE网络,来生成雨图。

在这里插入图片描述

同大多数图像处理的文章一样,选用了峰值信噪比PSNR和结构相似性SSIM作为客观评价指标。

### 循环挤压-激励上下文聚合网络在单张图像中的应用 #### 网络结构概述 Recurrent Squeeze-and-Excitation Context Aggregation Network (RESCAN) 是一种专门针对单张图像设计的深度学习模型。该网络旨在通过递归机制有效除图像中的痕,从而提高图像质量[^3]。 #### 特征提取模块 输入含图像后,首先利用改进版 DenseNet 提取全局特征。此版本的 DenseNet 移除了转换层(1 Conv + 1 Pooling),因此不会执行下采样操作,有助于保留更多细节信息。 #### 子网工作流程 所提取的整体特征被送入多个并行工作的子网络中。每个子网络负责估算特定尺度下的纹图 \( R_i \),并通过累加获得当前阶段总的纹图。随后,将原图与所得纹图做减法运算得出初步清理后的图片。上述过程会迭代多次,在每一新轮次里以前一轮处理过的影像作为输入继续优化直至最终产出完全无斑点的照片。 #### 关键组件分析 - **循环卷积层**:为了更好地捕捉时间序列特性以及增强记忆能力,采用了具备 ResNet 快捷链接特性的循环卷积单元。 - **Squeeze-and-Excitation (SE)**:引入 SE 结构可以自动调整通道间权重分配,使得重要区域获得更多关注资源,进而改善视觉表现力[^5]。 - **未使用 Batch Normalization**:考虑到 BN 可能破坏原有空间关联性,并且增加额外计算负担,故而在本框架内舍弃了这项技术。实验证明这样做不仅提升了性能指标还减少了约40% 的 GPU 显存占用量[^4]。 ```python import torch.nn as nn class RESCAN(nn.Module): def __init__(self, num_stages=4): super(RESCAN, self).__init__() # Define feature extraction module based on modified DenseNet without transition layers # Define recurrent sub-networks using recursive convolutional units with ResNet shortcuts # Implement squeeze-and-excitation mechanism to enhance channel-wise attention def forward(self, x): features = self.feature_extraction(x) rain_maps = [] clean_image = None for stage in range(num_stages): current_rain_map = self.sub_network(features) rain_maps.append(current_rain_map) if stage == 0: clean_image = x - sum(rain_maps) else: clean_image = clean_image - sum(rain_maps[stage:]) return clean_image ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值