论文阅读:Multi-Scale Progressive Fusion Network for Single Image Deraining

本文提出了一种名为MSPFN的多尺度渐进融合网络,用于图像去雨任务。该网络利用金字塔结构和信道注意力机制,从多尺度角度协同表示雨纹信息。通过递归计算和残差学习,网络能捕捉到雨纹的全局纹理信息,同时通过粗融合和细融合模块逐步融合特征。在损失函数上,采用了Charbonnier罚函数以避免过度平滑。此外,网络还在去雨任务的检测和分割评估中表现出色。

坐得住凳子。

2020CVPR:MSPFN

这篇文章是2020CVPR的一篇文章,作者来自武汉大学。文章主要结合金字塔结构、信道注意力机制进而协同地表示出多尺度的雨纹信息,提出了一种MSPFN网络。

代码:戳我
在这里插入图片描述
本文主要提出了一种多尺度渐进融合网络(MSPFN)。
对于雨的成像原理,由于雨和相机之间的距离不同,导致图片中的雨水会呈现出不同的模糊度和分辨率,因此可以利用多分辨率和多尺度之间的互补信息来表示雨纹。本文主要提出了一个框架从输入图像尺度和层次深度特征的角度,探讨了雨纹的多尺度协同表示,进而完成去雨。
对于不同位置的相似雨纹,采用了递归计算来获取全局纹理,从而探索空间维度上的互补和冗余信息来表征目标雨纹。此外,还构建了多尺度的金字塔结构,并进一步引入了注意机制来指导不同尺度的相关信息的精细融合。
多尺度渐进融合策略提高协同表示并促进端到端训练。

主要创新之处:

1、基于雨纹的相关性,通过挖掘不同尺度雨纹之间的互补信息,包括相似的外观组
成等,并通过循环计算,对雨纹分布进行更好的建模。
2、通过三个不同的模块CFM+FFM+RM,结合金字塔结构、信道注意力机制进而协
同地表示多尺度的雨纹信息,提出了MSPFN网络。
3、将去雨方法用于检测、分割进行全面的评估。

网络结构:

在这里插入图片描述

首先是通过高斯核进行下采样

### Mamba-UNet 架构及其在医学图像分割中的应用 Mamba-UNet 是一种基于纯视觉模型的架构设计,专为医学图像分割任务而优化。它继承了 U-Net 的经典编码器-解码器结构,并通过引入创新性的模块来提升性能和效率。 #### 1. Mamba-UNet 的核心架构特点 Mamba-UNet 结合了 Vision Transformer 和卷积神经网络的优势,在保持高效计算的同时增强了特征提取能力。其主要特性如下: - **双流特征融合机制** Mamba-UNet 利用了多尺度特征图之间的交互作用,通过跨层连接实现更深层次的信息传递[^1]。这种设计显著提升了模型对复杂边界区域的理解能力。 - **轻量化注意力模块** 在传统 U-Net 基础上,Mamba-UNet 集成了高效的自注意力机制,用于捕捉全局上下文信息。这使得模型能够更好地处理具有较大形变的目标对象。 - **渐进式下采样策略** 不同于标准 U-Net 中固定的池化操作,Mamba-UNet 使用了一种动态调整步幅的方法来进行逐级降维。这种方法可以减少不必要的细节损失并保留更多语义信息。 #### 2. 应用场景与优势分析 Mamba-UNet 主要应用于医疗领域内的高精度图像分割任务,例如肿瘤检测、器官轮廓描绘以及细胞分类等。以下是该方法的一些具体应用场景及对应优点: - **脑部 MRI 图像分割** 对于大脑组织切片数据集而言,由于不同灰质白质区域之间存在模糊过渡带,因此需要极高分辨率才能区分细微差异。Mamba-UNet 凭借强大的局部感知能力和长距离依赖建模功能成功解决了这一难题。 - **肺结节 CT 扫描识别** 肺部影像通常伴有大量噪声干扰项,这对任何算法都构成了严峻挑战。然而借助精心设计的空间金字塔池化单元,再加上残差学习路径的支持,最终实现了稳健可靠的预测效果。 ```python import torch from torchvision import models class MambaUNet(torch.nn.Module): def __init__(self, num_classes=1): super(MambaUNet, self).__init__() # Encoder layers with progressive downsampling strategy self.encoder = [ torch.nn.Conv2d(3, 64, kernel_size=3, stride=1, padding=1), ... ] # Decoder layers incorporating lightweight attention modules self.decoder = [ torch.nn.ConvTranspose2d(128, 64, kernel_size=2, stride=2), ... ] self.final_conv = torch.nn.Conv2d(64, num_classes, kernel_size=1) def forward(self, x): skip_connections = [] for layer in self.encoder: x = layer(x) skip_connections.append(x) for i, layer in enumerate(self.decoder): x = layer(x) x += skip_connections[-i-1] output = self.final_conv(x) return output ``` 上述代码片段展示了如何构建一个简化版的 Mamba-UNet 模型框架。实际部署过程中可能还需要进一步调优参数配置以适应特定需求环境下的表现指标要求。 #### 总结 综上所述,Mamba-UNet 提供了一个灵活且有效的解决方案来应对现代医学成像技术所带来的各种新问题。凭借独特的体系结构改进措施,不仅提高了整体运行速度还兼顾到了准确性方面的要求。
评论 5
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值