【AAAI2022】Efficient Non-Local Contrastive Attention for Image Super-Resolution (ENLCA)

已于 2022-09-08 20:51:54 修改
阅读量1.4k 收藏 3
点赞数 1
分类专栏： 超分辨率论文解析，持续更新 文章标签： 人工智能 深度学习 机器学习
于 2022-09-07 20:02:40 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Hunter_Murphy/article/details/126751835
版权
本文探讨了非局部注意力机制在图像超分辨率（SISR）任务中的局限性，提出了一种名为ENLCA（Efficient Non-Local Contrastive Attention）的新方法，以降低计算成本并提高模型性能。通过引入对比学习，ENLCA能够更有效地分离相关和无关特征。实验证明，ENLCA在保持线性复杂度的同时，提升了SR网络的性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

前言

本文意不在与翻译，在于解读文章，望周知~
关于文章的点评以及可借鉴到自己论文实验的idea，在文末给出

0、论文的Motivation

  • 虽然非局部注意力(Non-Local Attention, NLA)机制可利用自然图像中的内在特征关联信息去提升SISR任务的性能，但是它给噪声信息也会赋予较大的权重，这影响了模型最终的性能，同时其消耗的资源与输入成二次方的关系，这阻碍了其在SR领域中的应用。
  • 针对NLA这点不足，文中提出了一种 efficient 类型的非局部对比注意力（Efficient Non-Local Contrastive Attention，ENLCA）来完成场距离的视觉建模，以及利用更多相关的非局部特征。
    • 至于为什么本文不直接说高效的，且听下文分解~
    • ENLCA 主要有两个部分：
      • Efficient Non-Local Attention (ENLA) ：用核方法去逼近指数函数。
      • Sparse Aggregationÿ
了解本专栏 订阅专栏 解锁全文
FDIWN - 轻量级图像超分辨率重建的特征蒸馏交互加权网络
MhgCobol的博客
09-23 305
该算法通过特征蒸馏和交互加权的方式提高了重建质量，并在保持较低的模型复杂度的同时实现了更好的性能。以上是FDIWN算法的简要介绍和实现代码示例。通过特征蒸馏和交互加权的机制，FDIWN实现了轻量级的图像超分辨率重建，并取得了较好的性能。这种基于特征蒸馏和交互加权的方法为图像超分辨率重建提供了一种新的思路，可以在保持较低模型复杂度的同时提高重建质量。FDIWN算法的核心思想是利用特征蒸馏和交互加权的机制来提高超分辨率重建的效果。具体而言，算法通过引入一个交互加权网络，将蒸馏网络的输出与主网络的输出进行交互。
计算机视觉论文总结系列（三）：OCR篇
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-14 1万+
本篇主要介绍OCR论文总结，主要从OCR论文、模型方法、论文链接进行全面总结介绍，重点论文已标注✨，部分内容取自本人专栏《深入浅出OCR》系列，上述内容后续会继续更新，欢迎大家订阅学习交流，感谢批评指正！
Image Super-Resolution with Non-Local Sparse Attention
用户
07-27 4396
Non-local（非局部的自注意力） 和稀疏表示相结合 一、创新起源： Non-local 的不足：①深层网络感受野是全局的，自相关会不精确②全图计算 计算量大 二、方法： 将深度特征图的像素进行分类 同一个attention bucket里面的像素有相近的内容 效果：可以减少运算量至接近线性，增加NL的有效性 三、具体操作 Non-local 的表达式如下： 表达为稀疏的形式 δi: Attention bucket ...
(ENLCA)AAAI2022:Effificient Non-Local Contrastive Attention for Image Super-Resolution(ENLCA))
hbw136的博客
03-04 2089
AAAI2022-SR ENLCA
Image Super-Resolution with Non-Local Sparse Attention 论文笔记
weixin_46872424的博客
01-05 1257
Image Super-Resolution with Non-Local Sparse Attention 论文笔记
Lightweight Image Super-Resolution with Adaptive Weighted Learning Network
qq_34049103的博客
12-25 1433
这篇文章起源于Residual Convolutional Neural Network Revisited with Active Weighted Mapping，由于现行残差网络中为用初始低分辨率图片插值到最终大小，即将初始图片映射到最终将解空间，虽说可以很好的降低运算量，但是在所有路径上使用同一权重是否正确，即现行残差网络在减少参数的情况下，同时也限制了超分的质量，因此Residual C...
【论文阅读笔记】Lightweight Image Super-Resolution with Enhanced CNN
时光机 °的博客
02-16 3601
论文地址：https://arxiv.org/abs/2007.04344 代码地址：https://github.com/hellloxiaotian/LESRCNN) 论文小结   本文的模型名字叫做 LESRCNN ，为lightweight enchanced SR CNN。目标与名字一样，想弄一个轻量级可以在端上推理的模型。作者的设备为 I7-7800 和 1080Ti，内存大小为16G，推理时长如下图所示。模型主体有23层卷积层，卷积核为3∗33*33∗3和1∗11*11∗1交替进行，看起来不小
AAAI 2022 论文列表
热门推荐
gbstack08的专栏
02-15 2万+
链接及代码之后会更新 GitHub链接：https://github.com/gbstack/AAAI-2022-papers Scaled ReLU Matters for Training Vision Transformers Pichao Wang, Xue Wang, Hao Luo, Jingkai Zhou, Zhipeng Zhou, Fan Wang, Hao Li, Rong Jin Search Strategies for Topological Network Optimizat
2021年 ICCV / NeurIPS / AAAI 中Neural Architecture Search (NAS) 神经网络结构搜索相关论文汇总
AAAAshin的博客
02-06 2784
这里写自定义目录标题ICCV (35篇)NeurIPS / NIPS （28篇）AAAI (31篇) ICCV (35篇) Learning Latent Architectural Distribution in Differentiable Neural Architecture Search via Variational Information Maximization AdvRush Searching for Adversarially Robust Neural Architectures
《Spatially and Temporally Efficient Non-local Attention Netw......》翻译文献--学习网络
weixin_45032769的博客
10-30 1031
Abstract 基于视频的人再识别(reid)旨在匹配行人在非重叠相机上的视频序列。如何将视频的时空信息嵌入到特征表示中，是一项很有挑战性的实际工作。现有的方法大多是通过汇聚图像特征和设计神经网络的注意力机制来学习视频特征，而只在高层特征上研究帧之间的相关性。在这项工作中，我们的目标是细化具有非局部注意操作的中间特征和高级特征，并做出了两个贡献。 (i)我们建议建立一个非本地视频注意力网络(N...
Ultra Lightweight Image Super-Resolution with Multi-Attention Layers论文笔记
每天都要看论文
08-24 802
Ultra Lightweight Image Super-Resolution with Multi-Attention Layers 具有多注意力层的超轻量级图像超分辨率 在AIM 2020高效SR挑战赛上，分别在内存使用，FLOPs和参数数量上获得了第一，第三和第四名，优于CBPN和CARN等。 轻量级图像超分辨率（SR）网络对于现实应用具有最重要的意义。有几种基于深度学习的SR方法具有出色的性能，但是它们的内存和计算成本却在实际使用中受到阻碍。为了解决此问题，我们提出了一种多注意力特征融合超分辨率
《Efficient Single Image Super-Resolution Using Dual Path Connections with Multiple Scale Learning》
qq_45807669的博客
10-10 846
解读论文EMSRDPN----《Efficient Single Image Super-Resolution Using Dual Path Connections with Multiple Scale Learning》
阅读RFDN-Residual Feature Distillation Network for Lightweight Image Super-Resolution
qq_43169112的博客
02-08 2692
RFDN Residual Feature Distillation Network for Lightweight Image Super-Resolution记录
【算法学习】NL：非局部注意力——Non-local Neural Networks
最新发布
qq_50001789的博客
06-25 1872
非局部注意力：NL论文笔记——Non-local Neural Networks 非局部注意力网络（Non-local Attention Network）是一种深度学习模型，旨在捕捉全局上下文信息，与传统的卷积神经网络（CNN）不同，后者通常只关注局部区域的特征。非局部注意力通过计算所有位置之间的相似度关系来提取全局信息，从而在空间上实现长距离依赖的建模。这种方式能够有效捕捉图像中远距离像素之间的关系，对于处理具有复杂上下文信息的任务，如视频分析、图像分割和目标检测等，具有显著的优势。
阅读笔记：Exploiting High-Level Semantics for NR Image Quality Assessment of Realistic Blur Image
haiyanyanya的博客
03-31 3646
摘要： 针对这一问题，我们利用高级语义学，提出了一种新的对于真实模糊图像的无参考图像质量评价方法。1.将整个图像分成多个不重叠的补丁；2.每个补丁由从训练好的DCNN模型提取高级语义特征；3.采用三种不同的统计结构对来自不同的补丁信息进行统计，主要包含一切常见的统计方法；4聚集的特征作为线性回归模型的输入预测图像质量。 1.提出的方法 图像表示、特征提取、特征聚合和质量预测 1.1图像表示 预先训练的 dcnn 模型(例如 alexnet)需要一个固定的输入大小。为了满足这个要求，图像可以裁剪，.
注意力机制——ECANet（Efficient Channel Attention Network）
weixin_50752408的博客
03-16 3891
ECANet注意力机制是针对通道维度的注意力加权机制。它的基本思想是，通过学习通道之间的相关性，自适应地调整通道的权重，以提高网络的性能。ECANet通过两个步骤实现通道注意力加权： 1.提取通道特征 2.计算通道权重。）是一种新颖的注意力机制，用于深度神经网络中的特征提取，它可以有效地减少模型参数量和计算量，提高模型的性能。
CVPR 2022 | AAAI2022 | WACV 2022 超分辨率（super-resolution）方向上接收论文总结
yyywxk的博客
04-18 8642
目录CVPR 2022图像超分盲超分视频超分特殊场景AAAI 2022图像超分特殊场景WACV 2022图像超分视频超分特殊场景参考资料 CVPR 2022 官网链接：http://CVPR2022.thecvf.com 会议时间：2021年6月19日-6月24日 现将超分辨率方向上接收的论文汇总如下，遗漏之处还请大家斧正。 图像超分 Local Texture Estimator for Implicit Representation Function Paper: https://ipl.dgist
Residual Feature Distillation Network for Lightweight Image Super-Resolution（AIM2020）轻质超分辨率的残差特征蒸馏
每天都要看论文
08-21 3552
图像超分取得了极大的进展，尽管基于CNN的方法取得了极好的性能与视觉效果，但是这些模型难以部署到端侧设备(高计算量、高内存占用)。 为解决上述问题，已有各种不同的快速而轻量型的CNN模型提出，**IDN(Information Distillation Network, IDN)**是其中的佼佼者，它采用**通道分离**的方式提取蒸馏特征。然而，我们并不是很清晰的知道这个操作是如何有益于高效单图超分（SISR）的。 本文提出一种等价于通道分离操作的**特征蒸馏连接操作****(Feature Disti
论文笔记：Residual Feature Distillation Network for Lightweight Image Super-Resolution
起风了丿的博客
01-29 1477
（1）受益于CNN强大的拟合能力，图像超分取得了极大的进展。尽管基于CNN的方法取得了极好的性能与视觉效果，但是这些模型难以部署到端侧设备(高计算量、高内存占用)。（2）为解决上述问题，已有各种不同的快速而轻量型的CNN模型提出，IDN(Information Distillation Network, IDN)是其中的佼佼者，它采用通道分离的方式提取蒸馏特征。然而，我们并不是很清晰的知道这个操作是如何有益于高效SISR的。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值