CVPR2021—— Coordinate Attention for Efficient Mobile Network Design

2021CVPR-Coordinate Attention for Efficient Mobile Network Design 坐标注意力机制 前言 了解了SE和CBAM之后,Coordinate Attention(坐标注意)指出了前两者的一些缺点,并做出了一些改进,该篇论文发表于2021年CVPR Abstract 最近关于mobile network设计的研究已经证明了通道注意(例如the Squeeze-and-Excitation attention)对于提升模型性能的显著有效性,但是它们通常忽略了位置信息,这对于生成空间选择性注意映射很重要。在本文中,我们提出了一种新的mobile network注意机制,将位置信息嵌入到通道注意中,. 阅读详情

在这里插入图片描述

Coordinate Attention for Efficient Mobile Network Design

这是一篇基于SE和CBAM的改进注意力机制。

性能比SE和CBAM要好一些。

SE模块只是在通道上施加了权重,而忽略了位置信息。

本文中,提出一种novel的注意力机制,使用两个1D的pooling捕捉水平和垂直方向的注意力特征编码。

话不多说了。直接上图。

在这里插入图片描述

懂的人都懂:

(a)是SE模块,
(b)是CBAM模块
©是本文提出的CA模块。

很明显看出,CA模块和前二者的区别在于将一个2D的pooling转换成了2个1D的pooling然后进行融合最后得到注意力。

代码实现起来也非常简单。

官方提供的源码:
https://github.com/Andrew-Qibin/CoordAttention/blob/main/coordatt.py

CVPR2021论文:https://arxiv.org/abs/2103.02907

下面我的PyTorch实现:

import  torch
import torch.nn as nn
import  math
import  torch.nn.functional as F
# 对应论文中的non-linear
class h_swish(nn.Module):
    def __init__(self, inplace = True):
        super(h_swish,self).__init__()
        self.relu = nn.ReLU6(inplace=inplace)

    def forward(self, x):
        sigmoid = self.relu(x + 3) / 6
        x = x * sigmoid
        return x
class CoorAttention(nn.Module):
    def __init__(self,in_channels, out_channels, reduction = 32):
        super(CoorAttention, self).__init__()
        self.poolh = nn.AdaptiveAvgPool2d((None, 1))
        self.poolw = nn.AdaptiveAvgPool2d((1,None))
        middle = max(8, in_channels//reduction)
        self.conv1 = nn.Conv2d(in_channels,middle,kernel_size=1,stride=1,padding=0)
        self.bn1 = nn.BatchNorm2d(middle)
        self.act = h_swish()

        self.conv_h = nn.Conv2d(middle,out_channels,kernel_size=1,stride=1,padding=0)
        self.conv_w = nn.Conv2d(middle,out_channels,kernel_size=1,stride=1,padding=0)
        self.sigmoid = nn.Sigmoid()
    def forward(self,x): # [batch_size, c, h, w]
        identity = x
        batch_size, c, h, w = x.size()  # [batch_size, c, h, w]
        # X Avg Pool
        x_h = self.poolh(x)    # [batch_size, c, h, 1]

        #Y Avg Pool
        x_w = self.poolw(x)    # [batch_size, c, 1, w]
        x_w = x_w.permute(0,1,3,2) # [batch_size, c, w, 1]

        #following the paper, cat x_h and x_w in dim = 2,W+H
        # Concat + Conv2d + BatchNorm + Non-linear
        y = torch.cat((x_h, x_w), dim=2)   # [batch_size, c, h+w, 1]
        y = self.act(self.bn1(self.conv1(y)))  # [batch_size, c, h+w, 1]
        # split
        x_h, x_w = torch.split(y, [h,w], dim=2)  # [batch_size, c, h, 1]  and [batch_size, c, w, 1]
        x_w = x_w.permute(0,1,3,2) # 把dim=2和dim=3交换一下,也即是[batch_size,c,w,1] -> [batch_size, c, 1, w]
        # Conv2d + Sigmoid
        attention_h = self.sigmoid(self.conv_h(x_h))
        attention_w = self.sigmoid(self.conv_w(x_w))
        # re-weight
        return identity * attention_h * attention_w
"""
x = torch.ones(1,16,2,2)
a = CoorAttention(16,16)
print(a(x).size())
"""

Coordinate Attention for Efficient Mobile Network Design笔记 物理效果:它不像 GAP 那样把空间信息“砸碎”,而是像扫描仪一样,在聚合一个维度的同时,将另一个维度的精确位置信息“锁定”在特征向量里。将 2D 空间权重分解为两个 1D 向量的乘积,不仅减少了计算开销,还天然地起到了一种“特征解耦”的作用,使模型能分别在 X 轴和 Y 轴上进行语义建模。在算力受限的情况下,单纯增加通道数或深度边际效应递减,而引入精确的坐标信息能以极小的代价换取巨大的性能提升,特别是在语义分割等需要“像素级定位”的任务中。整个 X 轴(宽度方向)被压缩了,但 Y 轴的坐标(高度。 阅读详情

相关推荐

【Paper Reading】

不过欧洲的会有一个不好,就是他们的人通常英语口音很重,有些人甚至不太会说英文,所以开会和交流的时候,稍微有些费劲。《International Comference on Computer Vision》,正如很多和他一样的名字的会议一行,这样最朴实的名字的会议,通常也是这方面最nb的会议。通常比较 junior 的审稿人会更严厉一些,发现一些小问题就会倾向于给低分,而 senior 的审稿人反倒宽松一些,如果觉得论文确有可取之处,通常不会太计较一些小问题。是一个关于机器学习和计算神经科学的国际会议。

bryant_meng 4677

注意力机制大锅饭

yolov5添加注意力机制

weixin_43924211的博客 438

Coordinate Attention for Efficient Mobile Network Design坐标注意力以实现高效的移动网络设计论文笔记

Coordinate Attention for Efficient Mobile Network Design 坐标注意力以实现高效的移动网络设计 CVPR2021 即插即用的注意力块 Mobile Network设计的最新研究成果表明,通道注意力(例如,SE注意力)对于提升模型性能具有显著效果,但它们通常会忽略位置信息,而位置信息对于生成空间选择性注意力图是非常重要。 因此在本文中,作者通过将位置信息嵌入到通道注意力中提出了一种新颖的移动网络注意力机制,将其称为“Coordinate Attention

每天都要看论文 789

attention注意力机制的一些整理

attention注意力机制的一些整理1通道注意力 channel attentionSE模块SEResNet-SEBottleneck模块全连接替换为全卷积的通道注意力2空间注意力 Spatial attention3坐标注意力 Coordinate attention4自注意力 self attentionNon -Local像素注意力5组合CBAM 未完待续。。。 临时想整理一下,原理还未整理。 1通道注意力 channel attention SE模块 class SELayer(nn.Modul

sinat_41939352的博客 1029

Yolov8改进---注意力机制:CoTAttention,效果秒杀CBAM、SE

cvpr2021 CoTAttention注意力机制加入yolov8优化/改进,效果秒杀CBAM、SE

①答疑群聊服务;②YOLO大模型知识问答系统;③计算机视觉论文生成智能体; 5430

CoordAttention

高效移动网络设计的协调注意() 该存储库是我们协调注意的PyTorch实现(将出现在CVPR2021中)。 我们可以很轻松地将我们的注意力集中到任何经典的构建基块中,作为特征表示增强工具。 这里( )是一个代码库,您可能想在ImageNet上训练分类模型。 与挤压和激励块和CBAM的比较 (a)挤压和激励区(b)CBAM(C)协调注意区 如何将建议的CA块插入和 (a)MobileNetV2(b)MobileNeXt 物体检测 我们使用这个 。 语义分割 我们使用这个。 您也可以参考 。 引文 您可能要引用: @inproceedings{hou2021coordinate, title={Coordinate Attention for Efficient Mobile Network Design}, author={Hou, Qibin and Zhou, Daq

CoordAttention解读

本文解读Coordinate Attention for Efficient Mobile Network Design这篇针对轻量级网络设计的Coordinate Attention,将位置信息引入通道注意力取得了不错的效果。

周先森爱吃素的博客 5万+

STM32实战指南:TFTLCD液晶屏驱动与ILI9341应用解析

本文详细解析了STM32驱动TFTLCD液晶屏的实战技巧,重点介绍了ILI9341控制器的硬件连接、寄存器操作及性能优化方法。通过8080并行接口时序分析、GRAM操作优化和DMA传输应用,帮助开发者高效实现液晶屏驱动,适用于工业控制、智能家居等场景。

weixin_26873711的博客 232

(即插即用模块-Attention部分) 五、(CVPR 2021) Coordinate Attention 坐标注意力

作者提出了一种新的移动网络的注意力机制,即在通道注意力中嵌入位置信息,称为“坐标注意力”。与通过全局池化将特征张量转换为单个特征向量的通道注意力不同,坐标注意力将通道注意力分解为两个特征编码,这两个特征编码分别沿着两个空间方向聚合特征。然后将所得到的特征图分别编码成对 方向 和 位置 敏感的注意力图。

wei582636312的博客 2053

运放+三极管构建LED恒流驱动电路:原理、设计与调试全解析

在电子工程领域,恒流源是一种能够提供稳定输出电流的电路,其核心原理基于负反馈控制机制。通过将输出电流采样转化为电压信号,并与一个稳定的参考电压进行比较,系统自动调节功率器件的导通状态,从而抵消输入电压波动或负载变化带来的影响,实现电流恒定。这种技术对于驱动LED、激光二极管等电流敏感型器件具有重要价值,能确保亮度、色温的一致性,并延长器件寿命。本文以经典的运放结合三极管方案为例,深入剖析其如何实现精准的电流“钳位”。该方案利用通用运算放大器作为比较器,配合三极管构成调整管,通过采样电阻实时监测电流,形成了一

weixin_42525800的博客 499

在昇腾910B上,用kubeadm快速拉起一个双节点K8s集群(保姆级避坑指南)

本文详细介绍了在昇腾910B服务器上使用kubeadm快速搭建双节点Kubernetes集群的完整流程,包括环境准备、容器运行时配置、kubeadm初始化、节点加入与网络插件部署等关键步骤,特别针对ARM架构和昇腾芯片提供了优化配置和避坑指南。

weixin_29204749的博客 247

Coordinate Attention for Efficient Mobile Network Design(CVPR2021)

在本文中,我们提出了一种新的移动网络注意机制,将位置信息嵌入到通道注意中,我们称之为“坐标注意(coordinate attention)”。与通过二维全局池化将特征张量转换为单个特征向量的通道注意不同,坐标注意将通道注意分解为两个一维特征编码过程,分别沿着两个空间方向聚合特征。

weixin_50917576的博客 6760

13.5元低成本模拟乘法器AD633JN实测:手把手教你避开那些坑

本文以13.5元低成本模拟乘法器AD633JN为核心,通过实测搭建混沌电路的全过程,手把手教你避开电源灌流、芯片发烫、输入偏置等常见陷阱。文章详细剖析了AD633JN的比例因子、输入阻抗等关键特性,并提供了正确的电源去耦、信号耦合及稳定性布线方案,旨在帮助硬件爱好者与工程师高效利用这款高性价比芯片,节省调试时间与成本。

weixin_28432777的博客 519

(论文翻译)Coordinate Attention for Efficient Mobile Network Design(坐标注意力 CVPR2021)

最近在移动网络设计的研究在通道注意力上(如SENet)表现出引人注意的效果,但是他们普遍忽略了位置信息,这对生成空间注意力特征映射是重要的方法。

qq_39214409的博客 1805

UE5新手必看:如何用蓝图系统快速打造赛车游戏(含Chaos Physics配置)

本文为UE5新手提供使用蓝图系统快速打造赛车游戏的完整指南,涵盖Chaos Physics配置、载具蓝图架构设计、控制逻辑实现等关键步骤。通过详细的实战案例和优化技巧,帮助开发者高效构建具备专业物理反馈的赛车游戏原型。

weixin_29001327的博客 389

AI硬件加速:CPU vs GPU性能对比

AI硬件加速:CPU vs GPU性能对比 关键词:人工智能、硬件加速、CPU、GPU、性能对比、硬件架构、并行计算、优化策略、项目实战 摘要: 本文将深入探讨AI

AI天才研究院 1916

论文阅读笔记Coordinate Attention for Efficient Mobile Network Design(CVPR2021)

来源:投稿 作者:kenny_vincent 编辑:学姐 论文阅读笔记 Coordinate Attention for Efficient Mobile Network Design(CVPR2021) 动机&解决的问题 开始读论文的时候⼀定明确所读的论文要解决的是⼀个什么问题,这样才能在读论文的时候保持思路清晰,也为自己以后写论文打下良好的思维习惯。 该篇论文主要针对的是注意⼒机制中“通道注意⼒”的问题。作者认为之前优秀的注意力模块如SE(Squeeze-and-Exci.

学姐带你玩AI的博客 4073

【2022】人工智能☆✨

1. 朴素⻉叶斯⽅法是⼀种 ( ) ⽅法。A.机器学习的分类B.不确定性推理C.知识表示答案:A解析:朴素贝叶斯分类器是基于贝叶斯定理与特征条件独立假设的分类方法。它通过学习训练数据集来预测未知数据的类别标签,因此属于机器学习中的监督学习分类方法。选项B不确定性推理和选项C知识表示虽然与朴素贝叶斯方法有一定的关联,但它们并不是朴素贝叶斯方法的主要应用领域或定义特性。2. 关于启发式搜索描述正确的是 ( )。

super_mochi1 404

3.2021CVPR:Coordinate Attention for Efficient Mobile Network Design

坐标注意力,就是把图像沿H、W方向生成X、Y坐标,分别对X、Y进行注意力。

m0_50696252的博客 157

Linux安装MinIO(图文解说详细版)

最近开个新坑,就是在linux环境中操作开发环境,带大家玩转Linux,会整理出一篇Linux的专栏,欢迎大家订阅!! 富贵同学linux环境为CentOS7.8 版本。 上期跟大家说了一下OpenJDK的安装,这次说一下minio的安装 第一步,进入/opt 目录,创建minio文件夹 cd /opt mkdir minio 第二步,wget下载安装包: wget https://dl.minio.io/server/minio/release/linux-amd64/minio 第三步,进入m

编码人生 5万+

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

CVPR 2021 | Coordinate Attention for Efficient Mobile Network Design注意力机制再下一城(Keras实现)

paper:https://arxiv.org/pdf/2101.03697.pdf code:https://github.com/DingXiaoH/RepVGG

u011447962的博客 2496

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

【读点论文】Coordinate Attention for Efficient Mobile Network Design.2021CVPR卷积注意力机制新发现(含openmmlab的深度学习概览)

最近关于移动网络设计的研究已经证明了信道注意力(例如,挤压和激励注意力)对于提升模型性能的显著有效性,但它们通常忽略了位置信息,这对于生成空间选择性注意力图很重要。在本文中,我们通过将位置信息嵌入到信道注意力中,提出了一种新的移动网络注意力机制,我们称之为“协调注意力”。与通过2D全局池将特征张量转换为单个特征向量的通道注意力不同,坐标注意力将通道注意力分解为两个1D特征编码过程,分别沿两个空间方向聚合特征。以这种方式,可以沿着一个空间方向捕获长距离依赖性,同时可以沿着另一个空间方位保存精确的位置信息。

白水空空 684

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

Coordinate Attention for Efficient Mobile Network Design

最近的移动网络设计研究表明,通道注意(例如,挤压和激励注意)对提升模型性能具有显著的有效性,但它们通常忽略了位置信息,而位置信息对于生成空间选择性注意地图非常重要

6693

【CA】《Coordinate Attention for Efficient Mobile Network Design》

CVPR-2021。

bryant_meng 1223

Coordinate Attention for Efficient Mobile Network Design【即插即用】

最近关于移动网络设计的研究已经证明了通道注意(例如,挤压和激励注意)对于提高模型性能的显着有效性,但它们通常忽略了位置信息,而位置信息对于生成空间选择性注意图非常重要。在本文中,我们提出了一种新的移动网络注意机制,将位置信息嵌入到通道注意中,我们称之为“坐标注意”。与通过二维全局池化将特征张量转换为单个特征向量的通道注意不同,坐标注意将通道注意分解为两个一维特征编码过程,分别沿着两个空间方向聚合特征。这样可以在一个空间方向上捕获远程依赖关系,同时在另一个空间方向上保持精确的位置信息。

bettle_king的博客 284
上一篇: 关于pip install ensemble-boxes报错的处理
下一篇: ICCV2017——CoupleNet: Coupling Global Structure with Local Parts for Object Detection
practical_sharp
博客等级 码龄8年 500粉丝 148原创
评论 18
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值