基于多尺度注意力网络单图像超分（MAN）

最新推荐文章于 2025-05-09 10:40:17 发布
最新推荐文章于 2025-05-09 10:40:17 发布
阅读量2.3k 收藏 12
点赞数 2
分类专栏： # 图像超分辨重建 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_40107571/article/details/127536699
版权
本文提出了一种名为MAN的多尺度注意力网络，用于图像超分辨率任务。MAN采用大内核注意力机制（LKA）和门控空间注意力单元（GSAU），在减少参数量的同时提升模型性能。实验表明，MAN在多个数据集上表现优于现有先进的SR模型。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

引言

Transformer的自注意力机制可以进行远距离建模，在视觉的各个领域表现出强大的能力。然而在VAN中使用大核分解同样可以得到很好的效果。这也反映了卷积核的发展趋势，从一开始的大卷积核到vgg中采用堆叠的小卷积核代替大卷积核。

 上图展现了MAN网络在同样的性能下具有更少的参数量。

提高模型性能，通常有三种方法：

  • 更大的数据集
  • 更好的训练策略
  • 更好的网络结构

引言部分作者介绍了RCAN,RDN,MSRN的网络结构。作者之所以会提出这样的网络结构是因为：首先，transformer在各个领域大放光彩，但是作者认为transformer中的自注意力机制具有二次复杂度（就是太复杂了）。而出现的VAN（大核注意力机制）简单的堆叠卷积同样可以达到远距离建模的作用。所以作者产生了idea,就是应用VAN中的LKA（大核分解）来组建网络结构。作者为了最大化LKA的作用，作者采取了transformer的结构，而不是应用RCAN的架构。我们都知道transformer中包含了自注意力和MLP。但是作者认为MLP结构太过于复杂，用于低级视觉处理任务有点大材小用&#x

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【图像超分】论文复现：纯CNN模型！多级大核卷积注意力！MAN的Pytorch源码复现，跑通源码，获得与论文一致的指标和超分可视化结果，各组件可作为即插即用模块积累！
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
05-09 376
本文介绍了如何实现和测试多尺度注意网络（MAN）用于单幅图像超分辨率。文章详细说明了从环境配置、数据集准备到模型测试和训练的完整流程。首先，读者需要下载并配置BasicSR项目，并准备好训练和测试数据集。接着，文章指导如何将MAN源码整合到BasicSR中，并提供了不同版本（tiny、light、base）的配置文件。通过执行相应的测试命令，可以获得与论文一致的超分结果和指标。此外，文章还提供了训练配置文件的设置方法，帮助读者进行模型训练。完整代码和预训练模型可通过订阅专栏免费获取。
多尺度特征融合图像超分
qq_40107571的博客
09-26 761
级联递归残差块图像超分辨率
Multi-scale Attention Network for Single Image Super-Resolution（CVPR 2024）
weixin_51732791的博客
08-25 1190
针对ConvNets在图像超分辨率任务中表现不如Transformer的问题，提出了多尺度大核注意力（MLKA）和门控空间注意力单元（GSAU）两种方法。通过结合多尺度、门控机制和空间注意力，这些方法显著增强了ConvNets的模型表示能力，并成功应用于构建多尺度注意力网络（MAN），从而在图像超分辨率任务中实现了与Transformer相媲美的性能。
【ARIXV2209】Multi-Scale Attention Network for Single Image Super-Resolution
OUC的搬砖日常
01-24 2287
代码：https://github.com/icandle/MAN这是来自南开大学的工作，将多尺度机制与大核注意机制结合，用于图像超分辨率。2022年初，大核卷积火了，Visual Attention Network （VAN）提出将大核卷积划为：depth-wise conv，dilated conv，和 point-wise conv 的组合（如下图所示）。作者提出的方法叫做 Multi-scale Attention Network（MAN），总体框架如下图所示。
【图像超分辨率】Single image super-resolution using multi-scale feature enhancement attention residual net
qq_41807261的博客
03-16 905
本文实现了浅层CNN和深层CNN的集合，并提出了多尺度特征提取和关注块（MSFEAAB），以更好地同时从LR图像中提取低频和高频信息。为了抑制由于解卷积层导致的棋盘问题，采用像素解卷积来对特征图进行升标。 提出了一个多尺度特征提取和注意力块（MSFEAAB），包括三个主要步骤。(一)特征提取，(二)向上缩放，(三)图像重建。在特征提取步骤中，采用多尺度特征提取后的注意力模块，以更高效地学习卷积滤波器。 在特征提取模块中，关键问题之一是用于卷积核的接受场的大小。小尺寸的核对提取低频成分有帮助，而，大尺寸的核
SAN (CVPR 2019) :基于二阶通道注意力机制的单图像超分网络
Miracle Fan的博客
12-12 2109
​ 提出一种基于二阶统计信息的通道注意力机制，产生更好的表征能力，同时，模型对non-local机制也进行了优化，针对low-level任务，直接将non-local应用在整个图会导致计算量过大，于是采用了patch进行region-level的non-local机制。​ 对于给定输入，将其特征reshape为XwithC×SwheresWHXwithC×SwheresWH,计算样本的协方差矩阵ΣXIˉXTwh。
【图像超分】论文精读：Multi-scale Attention Network for Single Image Super-Resolution（MAN）
最新发布
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
05-09 180
论文题目：Multi-scale Attention Network for Single Image Super-Resolution —— 用于单幅图像超分辨率的多尺度注意网络CVPRW 2024！通过利用大核分解和注意力机制，卷积神经网络 (CNN) 可以在许多高级计算机视觉任务中与基于转换器的方法竞争。然而，由于远程建模的优势，具有自注意力的转换器仍然主导低级视觉，包括超分辨率任务。在本文中，我们提出了一种基于 CNN 的多尺度注意力网络 (MAN)，它由。
【论文速看】DL最新进展20241104-自动驾驶、图像超分、目标检测
qq_40734883的博客
11-04 925
【论文速看】DL最新进展20241104-自动驾驶、图像超分、目标检测
【超分辨率（Super-Resolution）】关于【超分辨率重建】专栏的相关说明，包含专栏简介、专栏亮点、适配人群、相关说明、阅读顺序、超分理解、实现流程、研究方向、论文代码数据集汇总等
热门推荐
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
03-25 2万+
本专栏研究领域为【超分辨率重建】，涵盖图像超分、视频超分，实时超分，4K修复等方面。主要内容包括主流算法模型的论文精读、论文复现、毕业设计、涨点手段、调参技巧、论文写作、应用落地等方面。算法模型从SRCNN开始更新至今，一般是一篇论文精读对应一篇论文复现。论文精读详解理论，归化繁为简，归纳核心，积累词句，培养阅读论文和论文写作能力。论文复现依托Pytorch代码，实现完整的模型训练流程，总结调参方法，记录碰到的bug，论文插图可视化，培养读写代码能力、做实验的能力、以及应用落地能力。
【图像超分辨率】Multi-scale Residual Network for Image Super-Resolution
qq_41807261的博客
03-20 2405
Multi-scale Residual Network for Image Super-Resolution摘要1 介绍本文对应的解决方案本文的贡献2 相关工作2.1 单图像的超分辨率（Single-image Super-resolution）2.2 特征提取块（Feature Extraction Block）3 提出的方法3.1 多尺度残差块（MSRB）多尺度特征融合（Multi-scale Features Fusion）局部残差学习（Local Residual Learning）3.2 层次特
图像超分辨
02-12
详细具体的介绍了图像超分辨的最新技术方法，对于初学图像超分辨的人来说是不错的选择。
多尺度残差超分辨率重建 MSRN(4倍)win程序
05-09
多尺度残差超分辨率重建 MSRN(4倍)的win程序,由《MSRN-PyTorch-master》中的 MSRN_x4.pt 模型改编而来
Tensorflow2.0：基于多尺度卷积注意力网络预测剩余寿命
cocofisher的博客
08-07 5260
文章目录项目介绍MSCAN 网络介绍1、Representation learning subnetwork1.1 卷积块（Block）1.2 自注意力模块1.3 多尺度卷积2、RUL estimation subnetwork2.1 动态高斯失活2.2 Maxout 激活函数MSCAN 网络实现1、Representation learning subnetwork2、DDLMSCAN 网络训练1、优化器2、损失函数3、梯度下降4、模型训练 项目介绍 在 Multi-Scale Convolutional
【深度学习基础之多尺度特征提取】多尺度注意力机制（Multi-Scale Attention Mechanism）是如何在深度学习网络中提取多尺度特征的？附代码（二）
985小水博的摸鱼日常
12-28 2158
【深度学习基础之多尺度特征提取】多尺度注意力机制（Multi-Scale Attention Mechanism）是如何在深度学习网络中提取多尺度特征的？附代码（二）
多尺度注意力创新
PLANTTHESON的博客
06-07 383
深度之眼17种多尺度注意力创新
【多尺度注意力的轻量化图像超分辨率】
weixin_43690932的博客
02-04 4254
仅供自己参考
篇2-多尺度注意力（Multi-scale attention）论文学习
helloaiti的博客
03-21 1524
以I3D网络提取的特征为输入，经卷积和重塑生成Q、K和V矩阵，通过矩阵乘法建模任意两个时空位置特征的时空关系，用softmax得到时空注意力权重分布矩阵，最终输出特征是所有位置特征的选择性聚合与原始特征加权和；当RC传输的特征和两次卷积操作后的特征维度不同时，使用1×1卷积层匹配维度。分别对1x1分支和3x3分支的输出用2D全局平均池化编码全局空间信息，再通过矩阵点积运算得到两个空间注意力图，最后将其聚合并经Sigmoid函数处理得到输出特征图，捕捉像素级成对关系，突出全局上下文，生成像素级注意力。
多方位注意力网络提升人群计数效果
本文主要探讨了在复杂且变化多端的人群图像分析中，如何通过创新的多方位注意力网络（MAN）来提升人群计数的准确性。传统的人工智能方法，如固定大小的CNN卷积核，以及视觉Transformer的固定大小注意力机制，在处理...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一壶浊酒..

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值