《CBAM: Convolutional Block Attention Module》论文代码解析

最新推荐文章于 2025-10-11 10:14:37 发布
原创 最新推荐文章于 2025-10-11 10:14:37 发布 · 4.3k 阅读 · 36 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文深入解析了ECCV2018论文《CBAM: Convolutional Block Attention Module》，该论文针对SENet进行了改进，提出了一种新的注意力模块——CBAM，它在通道和空间维度上进行注意力推断，提升CNN性能。CBAM包含通道注意力和空间注意力两个模块，实验表明顺序排列的CBAM模块效果更佳，同时CBAM在目标区域覆盖和特征聚合方面表现出色。

     本文解析的是一篇ECCV2018的文章，主要内容是对CVPR2017的SENet进行改进。

1.SENet回顾

       此论文是由Momenta公司所作并发于2017 CVPR，论文中的SENet赢得了ImageNet最后一届（ImageNet 2017）的图像识别冠军。论文的核心点在对CNN中的feature channel（特征通道依赖性）利用和创新。 论文的动机是从特征通道之间的关系入手，希望显式地建模特征通道之间的相互依赖关系。另外，没有引入一个新的空间维度来进行特征通道间的融合，而是采用了一种全新的“特征重标定”策略。具体来说，就是通过学习的方式来自动获取到每个特征通道的重要程度，然后依照这个重要程度去增强有用的特征并抑制对当前任务用处不大的特征。

论文的核心就是Squeeze和Excitation两个操作。

 由此可以让我们考虑以下几个问题：

  • SENet存在哪些不足？
  • 全局平均池化是否就是最优选择？
  • 除了特征通道还可以关注哪些方面？
  • 有没有其他轻量级的通用模块？

  让我们带着以上疑问进入到CBAM的论文中吧~

2.卷积块注意力模型CBAM

       本文提出了卷积块注意模块（CBAM），这是一种用于前馈卷积神经网络的简单而有效的注意力模块。给定一个中间特征图谱，我们的模块沿着两个独立的维度（通道和空间）依次推断注意力映射，然后将权重乘以输入特征map以进行自适应特征细化。由于CBAM是一个轻量级的通用模块，它可以无缝地集成到任何CNN架构中

最低0.47元/天 解锁文章
卷积注意力模块 CBAM | CBAM: Convolutional Block Attention Module
YOLOv8项目贡献者
04-28 3122
卷积注意力模块 CBAM
CBAM:Convolutional Block Attention Module
Dear_learner的博客
12-30 1522
目录 1、注意力机制 2、论文解读 2.1 Channel Attention Module（通道注意力机制） 2.2 Spatial attention channel 2.3 CBAM integrated with a ResBlock in ResNet 2.4 实验结果 1、注意力机制 通俗的讲，注意力机制就是希望网络自动学出图片或文字序列中需要注意的地方。比如，人眼在观察一幅画时，不会将注意力平均分配到画中的每个像素，而是更多的将注意力放到人们关注的地方。 从实...
CBAM: Convolutional Block Attention Module------论文理解
ruoruojiaojiao的博客
05-31 3162
参考博客：https://blog.youkuaiyun.com/u013738531/article/details/82731257 pytorch代码：https://github.com/luuuyi/CBAM.PyTorch 1. 概述 本论文提出了一种简单但有效的注意力网络---Convolutional Block Attention Module(CBAM)。给定一个中间的特征图，我们的...
CBAM: Convolutional Block Attention Module 论文笔记
sydukee的博客
12-15 646
Abstract 该论文提出 Convolutional Block Attention Module （CBAM），一个简单但是有效的用于前馈卷积注意力模块。给出中间特征图，模块可以顺序的从两个维度——通道和空间来推断 attention map，然后将 attention map 和 input feature map 相乘得到自适应的特征细化。并且CBAM是轻量级的，可以无缝整合到任何CNN结构中，并且开销可忽略不计，还可以和CNN一起端到端的进行训练。 Introduction 为提高 CNN 的性
融合CWT-CBAM-Resnet18轴承迁移故障诊断，附MATLAB代码
最新发布
woaipythonmeme的博客
10-11 393
将原始时域信号每2048个数据点组成一个样本，为了保证每个数据点都能采集到，相邻的样本点会有重叠的1048个数据点，滑动窗口的步长为1000。可以看到第二列的电机载荷分为0、1、2、3四种工况，这里只取故障直径为0.1778、0.3556、0.5334mm时的四种工况。-Resnet18模型的残差模块和CBAM模块进行冻结，只对全连接层进行微调，实现在工况1、2、3下的迁移学习。将第一步得到的四种不同工况的数据进行同步提取小波变换，提取的图片放在了相应的“工况x连续小波变换时频图”文件夹内。
CBAM: Convolutional Block Attention Module 论文阅读
weixin_44576543的博客
03-30 554
CBAM: Convolutional Block Attention Module 摘要：提出了卷积注意力模块 简答高效的前向卷积神经网络，feature-map推理的特征图有两个维度，分别是空间和通道注意力机制，因为注意力模块是轻量化的不增加网络负担，可以整合到CNN的任意位置，实验说明整个模块的有效性和实用性。 引文 基于丰富的特征表达能力CNN推动了多项视觉任务的发展，为了增强CNN的表现，深度、宽度、基数三个重要的因素。自从LeNet网络以来到现在残差式的网络，为了更好特征表达，网络的.
CBAM: Convolutional Block Attention Module论文总结和代码实现
qq_45981086的博客
05-27 4058
CBAM模块可以顺序地推导出两个独立维度的注意力图（通道和空间），然后将注意力乘到输入特征图上进行自适应特征细化。CBAM模块中子模块Channel attention module与SE模块十分相似，都是经过池化层、全连接层，最后由softmax函数得到channel权重，并且提出了空间注意力提取的子模块，最终得到的特征图同时包含空间和通道注意力。
【论文】CBAM: Convolutional Block Attention Module
梦想是要有的，万一实现了呢！
05-31 7893
摘要：我们提出了卷积块注意模块 (CBAM)，这是一个用于前馈卷积神经网络的简单而有效的注意模块。给定一个中间特征图，我们的模块沿两个单独的维度（通道和空间）顺序推断注意力图，然后将注意力图乘以输入特征图以进行自适应特征细化。因为 CBAM 是一个轻量级的通用模块，它可以无缝集成到任何 CNN 架构中，开销可以忽略不计，并且可以与基础 CNN 一起进行端到端训练。我们通过对 Image Net - 1 K、MS COCO 检测和 VOC 2007 检测数据集的广泛实验来验证我们的 CBAM。我们的实验表..
CBAM：Convolutional Block Attention Module 学习笔记
qq_34832548的博客
09-30 998
方法：提出了卷积块注意力模块，这是一种简单有效的前馈卷积神经网络注意力模块，给顶一个中间特征图，模块沿着通道和空间两个独立的维度依次推断注意力图，然后将注意力图乘以输入特征图进行自适应特征细化，作为一个轻量化的通用模块，可以无缝集成到任何CNN架构中且开销忽略不计，可以与基础CNN一起进行端到端训练贡献：各种模型分类和检测性能都有持续改进。
CBAM: Convolutional Block Attention Module
u013049912的博客
10-21 2648
我们提出了卷积块注意力模块（CBAM），这是一种用于前馈卷积神经网络的简单而有效的注意力模块。给定中间特征图，我们的模块沿着两个独立的维度（通道和空间）顺序推断注意力图，然后将注意力图乘以输入特征图以进行自适应特征细化。由于 CBAM 是一个轻量级通用模块，因此它可以无缝集成到任何 CNN 架构中，且开销可以忽略不计，并且可以与基础 CNN 一起进行端到端训练。我们通过在 ImageNet-1K、MS COCO 检测和 VOC 2007 检测数据集上进行大量实验来验证我们的 CBAM。
【即插即用】CBAM: Convolutional Block Attention Module——2018ECCV
cainiaomyf的博客
10-09 1685
引用：Woo S, Park J, Lee J Y, et al. Cbam: Convolutional block attention module[C]//Proceedings of the European conference on computer vision (ECCV). 2018: 3-19.论文题目：CBAM: Convolutional Block Attention Module（不用看）（不用看）直接Copy！！试。
CBAM.PyTorch:论文非官方工具：CBAM
05-09
CBAM.PyTorch 论文：CBAM的非官方实现者：卷积块注意模块 介绍 这些代码是用于纸张的重新实现版本：CBAM：卷积块注意模块 Woo S，Park J，Lee JY等。 CBAM：卷积块注意模块 结构 CBAM概述。 该模块具有两个连续的子模块：通道和空间。 中间特征图通过我们的模块（CBAM）在深度网络的每个卷积块上进行自适应调整。 要求 Python3 PyTorch 0.4.1 tensorboardX（可选） 火炬网 预训练模型（可选） 结果 我们仅在ImageNet-1K中测试了四个模型，训练集和验证集都缩放到256（最小边），仅使用Mirror和RandomResizeCrop作为训练数据扩充，在验证过程中，我们使用中心裁剪获得224x224补丁。 ImageNet-1K 楷模 验证（Top-1） 验证（前5名） ResNet50 74.26 91
CBAM-keras:在Keras上实施CBAM
05-23
CBAM-Keras 这是实现。 该存储库还包括，因此您可以在基本的CNN模型，带有CBAM块的基本模型和带有SE块的基本模型之间进行训练和比较。 CBAM：卷积块注意模块 CBAM提出了一个称为“卷积块注意模块”（CBAM）块的体系结构单元，以通过使用注意机制来提高表示能力：关注重要特征并抑制不必要的特征。 该研究可以被认为是的后代和改进。 CBAM_block的图 每个注意子模块图 ImageNet-1K上的分类结果 先决条件 Python 3.x 凯拉斯 准备数据集 该存储库使用数据集。 当您运行训练脚本时，数据集将被自动下载。 （请注意，您不能使用Cifar10数据集运行Inception系列模型，因为当Cifar10为32时，Inception系列模型中可用的最小输入大小为139。因此，请尝试将Inception系列模型与其他数据集一起使用。） CBAM_block和SE_b
CBAM: Convolutional Block Attention Module论文解读和算法原理解析笔记---注意力模型
qq_39027890的博客
01-26 7261
前言 这是去年ECCV2018的一篇文章，主要贡献为提出一个新的网络结构。之前有一篇论文提出了SENet，在feature map的通道上进行attention生成，然后与原来的feature map相乘。这篇文章指出，该种attention方法只关注了通道层面上哪些层会具有更强的反馈能力，但是在空间维度上并不能体现出attention的意思。CBAM作为本文的亮点，将attention同...
【论文阅读-3】CBAM:Convolutional Block Attention Module
weixin_42040467的博客
05-03 413
Abstract 1.提出了卷积块注意模块(CBAM),一种前馈卷积神经网络注意模块. 2.给定一个中间特征映射,该模块沿着两个独立的维度顺序推理注意映射(通道和空间),然后将注意映射乘以输入特征映射来进行自适应特征细化。 3.CBAM是一个轻量级的通用模块，可以无缝地集成到任何CNN架构中，并且可以与基础CNN一起进行端到端的训练。 Introduction 1.最近研究网络的三个重要因素：深度，宽度和基数。 2....
Convolutional Block Attention Module
不要錯過才珍惜
10-26 1414
在论文中，作者提出了一个新的网络模块，名为“卷积块注意模块”。由于卷积操作通过将跨通道和空间信息混合在一起来提取信息特征，因此作者采用模块来强调沿这两个主要维度的有意义的特征：通道和空间轴。为了实现这一点，作者依次应用通道和空间注意模块，以便每个分支可以分别学习通道和空间轴上的“what”和“where”。因此，模块可以通过学习要强调或抑制哪些信息来有效地帮助网络内的信息流动。
论文：CBAM: Convolutional Block Attention Module 阅读笔记
Stay hungry, Stay foolish
06-15 1007
一、论文 (18)CBAM: Convolutional Block Attention Module https://arxiv.org/abs/1807.06521 code:gihub 二、论文笔记 1、背景 1、网络结构方面有往深度方向探索的（使用resnet结构之后，网络可以更深），有往宽度方向探索的，比如（googlenet） 还有往（cardinality）方向探索的...
CBAM（Convolutional Block Attention Module）卷积注意力模块用法及代码实现
ywfwyht的博客
12-14 4459
通道注意力机制（Channel Attention Module）是将特征图在通道维度不变，压缩空间维度，得到一个一维矢量后再进行操作。1的大小，然后经过两层共享全连接层（shared MLP）中，它先将通道数压缩为原来的1/r（Reduction，减少率）倍，再扩张到原通道数，再将这两个输出进行elementwise逐元素相加操作，经过sigmoid激活，最终即可获得通道注意力模块的特征图。在空间注意力模块中，是将通道注意力模块输出的特征图作为输入对通道进行压缩。该模块关注的是目标的位置信息。
cbam: convolutional block attention module
06-28
### 回答1： CBAM是卷积块注意力模块的缩写，是一种用于交替堆叠到深度卷积神经网络（CNNs）中的模块。它包含两个子模块：通道注意力模块和空间注意力模块。通道注意力模块用来对每个通道进行加权，确定哪些通道最重要。空间注意力模块在每个通道中对所有空间位置进行加权，可以捕捉不同位置的重要性，从而更好地定位物体。 CBAM的优点在于，它能够提高CNNs的性能，减少了过度拟合的情况。CBAM结构的输入任意大小、任意通道数、任意深度，因此可以适用于各种计算机视觉任务，包括图像分类，物体检测和语义分割等。 总之，CBAM是一种具有高灵活性和高性能的卷积块注意力模块，能够极大地增强CNNs的表达能力，提高计算机视觉任务的准确性。 ### 回答2： CBAM（Convolutional Block Attention Module），是一种用于图像分类的Attention模块，它主要是用于增强卷积神经网络（CNN）的特征表达能力，使得CNN能够更好地区分不同种类的图像。 CBAM结构由两部分组成，分别是CBAM-Channel和CBAM-Spatial。在CBAM-Channel中，它通过引入注意力机制，对每个通道的特征进行加权求和，并且使用全局平均池化操作，计算其重要性参数，进而对特征进行修正，从而提升模型的表达能力。CBAM-Spatial则通过空间注意力机制对图像中的区域进行注意力分配权重，进一步优化模型的性能。 CBAM在图像分类方面的性能表现非常卓越。实验证明，在对比原始ResNet和ResNeXt网络，以及加入CBAM的ResNet和ResNext网络进行图像分类时，加入CBAM的ResNet和ResNeXt网络具有更强的表达能力和更高的分类准确性，同时，它在训练过程中的收敛速度也有所提升。 总的来说，CBAM是一种非常有效的图像分类模块，利用注意力机制对CNN的特征进行增强，为图像分类任务提供了更好的性能表现。随着人工智能的迅速发展，CBAM在图像识别、物体检测等领域将具有广阔的应用前景。 ### 回答3： CBAM是卷积块注意力模块的缩写，它是一种用于图像分类和目标检测的神经网络模型。CBAM模块通过将通道和空间注意力机制组合在一起，从而有效地提高了模型的性能。 CBAM模块分为两个部分：通道注意力机制和空间注意力机制。通道注意力机制是针对图像特征中的通道信息进行关注，它可以基于每个通道的特征图来计算权重，然后对于每个通道进行信息的调整和加权。这样，在网络中的每个层次上都能更好地利用有用的通道信息，减少无用信息对网络性能的影响。 空间注意力机制是针对图像特征中的空间信息进行关注。它能够自适应地计算每个像素点的权重，然后对于每个像素点进行信息的调整和加权。这样，网络中的每个空间位置都能更好地利用有用的空间信息，提高目标检测和分类的准确率。 通过组合这两种注意力机制，CBAM模块能够区分有用和无用的特征，从而在图像分类和目标检测任务中取得更好的性能。CBAM模块通常被用在深度卷积神经网络中，例如ResNet以及MobileNet等，以提高整个网络中的特征提取能力和分类性能。
评论 10
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值