SENet

最新推荐文章于 2024-12-27 00:37:33 发布
原创 最新推荐文章于 2024-12-27 00:37:33 发布 · 1.7k 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #卷积神经网络

SENet

文章目录


学习参考资料:https://blog.youkuaiyun.com/qq_39297053/article/details/130676316?spm=1001.2014.3001.5502

前言

SENet，胡杰（Momenta）在2017.9提出，通过显式地建模卷积特征通道之间的相互依赖性来提高网络的表示能力，即，通道维度上的注意力机制。SE块以微小的计算成本为现有的最先进的深层架构产生了显著的性能改进，SENet block和ResNeXt结合在ILSVRC 2017赢得第一名。

背景

  • 提出背景：卷积核通常被看做是在局部感受野上，在空间上和通道维度上同时对信息进行相乘求和的计算。现有网络很多都是主要在空间维度方面来进行特征的融合（如Inception的多尺度）。

  • 通道维度的注意力机制：在常规的卷积操作中，输入信息的每个通道进行计算后的结果会进行求和输出，这时每个通道的重要程度是相同的。而通道维度的注意力机制，则通过学习的方式来自动获取到每个特征通道的重要程度（即feature map层的权重），以增强有用的通道特征，抑制不重要的通道特征。

  • 说起卷积对通道信息的处理，有人或许会想到逐点卷积，即kernel大小为1X1的常规卷积。与1X1卷积相比，SENet是为每个channel重新分配一个权重（即重要程度）。而1X1卷积只是在做channel的融合计算，顺带进行升维和降维，也就是说每个channel在计算时的重要程度是相同的。

    1 * 1卷积等价于全连接层

SE模块

SENet是一种基于注意力机制的卷积神经网络架构。其主要思想是通过自适应地重新校准卷积特征的通道响应。SENet中的"Squeeze"和"Excitation"操作分别对应着该过程的两个主要步骤。

Squeeze：压缩操作是全局信息嵌入的过程，主要用于对空间维度进行全局平均池化，得到每个通道的全局空间信息，形成一个通道描述符。（即下图中 F s q F_{sq} Fsq​的操作，得到 1 × 1 × C 1 \times 1 \times C 1×1×C 大小的）

换句话说，通过这个操作，我们可以获得每个特征通道的全局上下文信息。

Excitation：激励操作是通过一个全连接（Fully Connected, FC）层来学习非线性交互，以便捕获特征通道之间的依赖关系。具体来说，首先通过一个全连接层（FC）对通道描述符进行降维（通常通过一个收缩因子进行降维，例如16），然后通过ReLU激活函数进行非线性变换，接着再通过一个全连接层（FC）恢复到原始维度，并通过sigmoid激活函数将其映射到0到1之间，得到每个通道的权重。这个权重就可以用来重新校准原始特征通道。

通过这种方式，SENet可以有效地模拟特征通道之间的依赖关系，并且能够动态地调整每个特征通道的权重，从而提高模型的表现。

  1. 输入经过一系列传统卷积得到特征图，对先做一个Global Average Pooling，输出的数据，这个特征向量一定程度上可以代表之前的输入信息，论文中称之为压缩（Squeeze）操作。

  2. 再经过两个全连接来学习通道间的重要性，用Sigmoid限制到[0, 1]的范围，这时得到的输出可以看作每个通道重要程度的权重，论文中称之为扩展（Excitation）操作。

  1. 最后，把这个的权重乘到对应通道上，这时就根据权重对的通道进行了重要程度的重新分配

image-20230628093947887

模型效果

SE 模块可以嵌入到现在几乎所有的网络结构中，而且都可以得到不错的效果提升，用过的都说好。

在大部分模型中嵌入SENet要比非SENet的准确率更高出1%左右，而计算复杂度上只是略微有提升，具体如下图所示。 而且SE块会使训练和收敛更容易。CPU推断时间的基准测试：224×224的输入图像，ResNet-50 164ms，SE-ResNet-50 167ms。

总结

SENet模型是一种通过自适应地重新加权输入特征图的通道来增强模型表达能力的卷积神经网络结构。由胡杰等人在2018年提出。
SENet的核心思想是通过一个“Squeeze-and-Excitation”模块来学习输入特征图的通道之间的关系，从而自适应地调整特征图中每个通道的权重。具体来说，“Squeeze-and-Excitation”模块包含两个步骤。
“Squeeze”：通过全局池化操作，将输入特征图的每个通道压缩成一个标量，用于表示该通道的重要性。
“Excitation”：使用一个小型的全连接神经网络，学习一个激活函数，将上一步中得到的每个通道的重要性进行自适应调整，并重新加权输入特征图的通道。
通过这样的操作，SENet可以自适应地增强模型的表达能力，减少冗余信息的传递，并且在不增加网络复杂度的情况下提高模型的准确率。此外，SENet可以很容易地嵌入到其他深度卷积神经网络结构中，使得其更容易应用于实际的计算机视觉任务中。
SENet模型在许多视觉任务中都取得了出色的表现，比如在ImageNet图像分类任务中，SENet-154取得了迄今为止最好的单模型结果。同时，SENet还被广泛应用于各种其他视觉任务中，如目标检测、语义分割等。

【CNN】SENet——将注意力机制引入通道维度
lingchen1906的博客
11-22 3008
（1）提出背景：卷积核通常被看做是在局部感受野上，在空间上和通道维度上同时对信息进行相乘求和的计算。现有网络很多都是主要在空间维度方面来进行特征的融合（如Inception的多尺度）。（2）通道维度的注意力机制：在常规的卷积操作中，输入信息的每个通道进行计算后的结果会进行求和输出，这时每个通道的重要程度是相同的。而通道维度的注意力机制，则通过学习的方式来自动获取到每个特征通道的重要程度（即feature map层的权重），以增强有用的通道特征，抑制不重要的通道特征。
SENet模型原理及代码介绍
qq_43449643的博客
04-13 1399
SE注意力机制
详解ImageNet 2017夺冠架构SENet
Sweet_Harbour的博客
10-03 4886
本文转载至机器之心专栏，作者：胡杰，原文地址：http://www.sohu.com/a/161633191_465975       本届 CVPR 2017大会上出现了很多值得关注的精彩论文，国内自动驾驶创业公司 Momenta 联合机器之心推出 CVPR 2017 精彩论文解读专栏。除此之外，Momenta 还受邀在 CVPR 2017 的 ImageNet Workshop 中发表演讲，介
senet
Marshall的专栏
11-09 1239
专栏 | Momenta详解ImageNet 2017夺冠架构SENet https://github.com/shicai/SENet-Caffe
带你读论文系列之计算机视觉--SENet
wuli_xin的博客
09-21 665
带你读论文系列之计算机视觉–SENet 闲谈 总有那么瞬间思念远方的故人。八月十五中秋节，让我们放下繁忙工作，回家与老人团圆举杯共餐。这是我第一次没有在家过中秋，感觉也还行。现在节日没有什么节日气氛，最重要的家人团聚。各位小可爱们，中秋佳节，愿你快快乐乐，开开心心；健健康康，轻轻松松；团团圆圆，恩恩爱爱；和和美美，红红火火！❤️ 前言 论文：Squeeze-and-Excitation Networks 代码 一个可嫁接/整合的Block ???? Momenta在ImageNet2017挑战赛中夺冠的网
回头看SE注意力机制及其PyTorch实现
m0_51951959的博客
05-14 1524
2017年，Hu等人发表了《Squeeze-and-Excitation Networks》，在文中创新性地提出了一种基于特征通道关系的轻量化模块，并将其称之为SE（Squeeze-and-Excitation） block，即SE注意力机制。这一模块为当时已经达到SOTA（state-of-the-art）水平的网络模型带来了进一步的效果提升，凭借其出色的效果和即插即用的特性，SE注意力机制成为了软注意力机制中的经典。
精选资源
senet154预训练模型-senet154-c7b49a05.pth
10-02
senet154预训练模型
SENet原版论文1
08-03
SENet 原版论文 1 SENet（Squeeze-and-Excitation Networks）是一种深度学习模型，旨在提高卷积神经网络（Convolutional Neural Networks，CNNs）的表征能力。该模型通过引入一种新的架构单元，称为 Squeeze-and-...
精选资源
Senet-开源
04-26
Senet，源自古埃及，是一种历史悠久的棋盘游戏，它在古代社会中极其流行，如今通过开源项目，我们得以再次体验这种古老的游戏魅力。"Senet-开源"项目旨在重现这款经典游戏，让现代玩家能够按照历史学家Timothy ...
SENet中英文对照翻译1
08-03
SENet（Squeeze-and-Excitation Networks）是一种卷积神经网络（CNN）的架构改进，由Jie Hu、Li Shen和Gang Sun等人提出。该网络设计的核心是引入了一个名为"Squeeze-and-Excitation"（SE）块，其目的是通过自适应地...
精选资源
SENet-PyTorch
05-10
这是SENet的PyTorch实施（在ImageNet数据集上进行训练） 论文： 用法 准备数据 该代码以ImageNet数据集为例。 您可以下载ImageNet数据集，并将其放入如下位置。 由于内存限制，我仅提供ILSVRC2012_dev_kit_t12 ，...
经典论文-SeNet论文及实践
uncle_ll的博客
09-16 5692
卷积神经网络建立在卷积运算的基础上，通过融合局部感受野内的空间信息和通道信息来提取信息特征。为了提高网络的表示能力，许多现有的工作已经显示出增强空间编码的好处。在这项工作中，我们专注于通道，并提出了一种新颖的架构单元，我们称之为**“Squeeze-and-Excitation”（SE）模块**，通过显式地建模通道之间的相互依赖关系，自适应地重新校准通道式的特征响应。通过将这些块堆叠在一起，证明了可以构建SENet架构，在具有挑战性的数据集中可以进行泛化地非常好。关键的是，发现SE块以微小的计算成本为现有的
SENet（Squeeze-and-Excitation Networks）网络详解
热门推荐
西湖有大葱的专栏
04-23 11万+
论文：《Squeeze-and-Excitation Networks》 论文链接：https://arxiv.org/abs/1709.01507 代码地址：https://github.com/hujie-frank/SENet PyTorch代码地址：https://github.com/miraclewkf/SENet-PyTorch一、SEN...
注意力机制详解
m0_62311817的博客
07-21 7928
注意力机制
注意力机制——CAM、SAM、CBAM、SE
Billie使劲学的博客
04-06 4万+
CAM、SAM、CBAM详见：CBAM——即插即用的注意力模块（附代码） 目录 1.什么是注意力机制？ 2.通道注意力机制——SE （1）Squeeze （2）Excitation （3）SE Block 3.CAM 4.SAM 5.CBAM 6.代码 参考 1.什么是注意力机制？ 从数学角度看，注意力机制即提供一种权重模式进行运算。 神经网络中，注意力机制即利用一些网络层计算得到特征图对应的权重值，对特征图进行”注意力机制“。 2.通道注意力机制——SE 论文地...
SENet：Squeeze-and-Excitation Networks（CVPR 2018）详解
Lil Wing
02-27 1648
一、SENet简介        Squeeze-and-Excitation Networks（SENet）是由自动驾驶公司Momenta在2017年公布的一种全新的图像识别结构，它通过对特征通道间的相关性进行建模，把重要的特征进行强化来提升准确率。这个结构是2017 ILSVR竞赛的冠军，top5的错误率达到了2.251%，比2016年的第一名还要低25%，可谓提升巨大。      &
神经网络-SENet
晓的博客
12-27 1825
下面是SE在各种网络中添加的尝试，其中fc[16,256]表示两个全连接层输出的维度，具体结论如下：下图是各网络的结果展示，其中original是原始论文中展示的结论，re-implementation是重新训练后得到的结论，SENet是加入SE结构的网络。
基于卷积的图像分类识别（七）：SENet
极光喵的博客
05-15 1741
SENet，由胡杰于2017.9提出，其通过显式地建模卷积特征通道之间的相互依赖性来提高网络的表示能力。即，通道维度上的注意力机制。SE模块仅需微小的计算成本，却产生了显著的性能改进。在ILSVRC2017比赛中，SENet block与ResNeXt结合获得了第一名。
YOLOv8优化：注意力系列篇 | SEAttention注意力，效果秒杀CBAM
会AI的学姐
10-21 9683
本文改进：SEAttention注意力，引入到YOLOv8，多种实现方式
SEnet
最新发布
03-23
### SE Net 深度学习架构简介 SENet（Squeeze-and-Excitation Network）是一种用于提升卷积神经网络性能的深度学习架构，它通过引入一种称为“通道注意力机制”的方式来增强特征表示能力[^1]。具体来说，SENet通过对不同通道上的特征图赋予不同的权重，使得模型能够更加关注重要的特征。 #### 架构组成 SENet的核心思想可以分为三个部分： 1. **Squeeze（压缩）**：全局平均池化操作被用来获取每个通道上特征图的空间信息，并将其转换为一维向量。这一步骤减少了计算复杂度并保留了重要信息[^3]。 2. **Excitation（激励）**：通过全连接层和激活函数构建一个小型子网络，该子网络会生成一组权重值，这些权重反映了各个通道的重要性程度。 3. **Reweight（重加权）**：最后将得到的权重重新作用于原始输入张量中的对应位置，从而实现动态调整各通道贡献的效果。 以下是基于 PyTorch 的简单实现代码示例： ```python import torch.nn as nn class SELayer(nn.Module): def __init__(self, channel, reduction=16): super(SELayer, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.fc = nn.Sequential( nn.Linear(channel, channel // reduction, bias=False), nn.ReLU(inplace=True), nn.Linear(channel // reduction, channel, bias=False), nn.Sigmoid() ) def forward(self, x): b, c, _, _ = x.size() y = self.avg_pool(x).view(b, c) y = self.fc(y).view(b, c, 1, 1) return x * y.expand_as(x) # 将 SEBlock 添加到 ResNet 中的一个例子 def se_resnet_block(): block = nn.Sequential( nn.Conv2d(in_channels=64, out_channels=64, kernel_size=3, padding=1), nn.BatchNorm2d(64), nn.ReLU(), SELayer(channel=64), # 插入 SE Layer nn.Conv2d(in_channels=64, out_channels=64, kernel_size=3, padding=1), nn.BatchNorm2d(64), nn.ReLU() ) return block ``` 上述代码展示了如何创建一个基本的 Squeeze-and-Excitation 层以及如何将其嵌入到现有的 CNN 结构中[^2]。 #### 使用教程 为了更好地理解 SENet 并实际运用到项目当中，可以从以下几个方面入手： 1. 学习官方论文《Squeeze-and-Excitation Networks》及其背后的理论基础； 2. 参考已有的开源实现案例，比如 GitHub 上由 `moskomule` 提供的 PyTorch 版本 或者 Keras 社区分享的文章； 3. 实践过程中注意调试超参数设置，例如缩减比例 (`reduction`) 对最终效果的影响。 ---
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值