SK_net：Selective Kernel Networks

最新推荐文章于 2025-02-22 01:00:00 发布
最新推荐文章于 2025-02-22 01:00:00 发布
阅读量1.1k 收藏 5
点赞数 1
分类专栏： Attention 文章标签： 深度学习 卷积神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/m0_37859875/article/details/108727443
版权

SK_net

概述

启发

皮质神经元根据不同的刺激可动态调节其自身的感受野。因此，本文提出一种动态选择机制使每一个神经元可以针对目标物体的大小选择不同的感受野。

动态选择

本文设计SK单元用不同卷积核提取特征，然后通过每个分支引导的不同信息构成的softmax进行融合。
SK单元包括三个方面：Split， Fuse， Select。

  • Split：使用不同的卷积核对原图进行卷积。
  • Fuse：组合并聚合来自多个路径的信息，以获得选择权重的全局和综合表示。
  • Select：根据选择权重聚合不同大小的内核的特征图。

SKNet结构

Selective Kernel Convolution

这个SKNet包含两个分支, 如下图所示：
在这里插入图片描述

Split

✔️ 对于任意输入的feature map，首先进行两个变化，得到 U ~ \widetilde{U} U 和 U ^ \widehat{U} U ，使用的kernel size分别为 3x3 和 5x5，其中 5x5 的卷积核替换为一个dilation为2的3x3的卷积核。

Fuse

✔️ 该步骤主要通过门控机制将上一层的输出进行有选择的筛选，使每一个分支都携带不同的信息流进入下一个神经元。

  1. 对不同分支的输出进行融合，即逐元素进行相加（输出的尺寸和通道数必须是一样的）；
    U = U ~ + U ^ U=\widetilde{U}+\widehat{U} U=U +U

  2. 对两个输出进行全局平均池化（global average pooling ）操作，获得每一个通道上的全局信息;
    s c = F g p ( U c ) = 1 H × W ∑ i = 1 H ∑ j = 1 W U c ( i , j ) s_c={F}_{gp}(U_c)={1\over{H\times W}}\sum_{i=1}^H \sum_{j=1}^W {U_c(i,j)} sc​=Fgp​(Uc​)=H×W1​i=1∑H​j=1∑W​Uc​(i,j)

  3. 对输出 s 做全连接找到每一个通道占的比重大小；
    z = F f c ( s ) = σ ( B ( W s ) ) z=F_fc(s)=\sigma(B(W_s)) z=Ff

最低0.47元/天 解锁文章
选择内核注意力 SK | Selective Kernel Networks
YOLOv8项目贡献者
04-29 1368
选择内核注意力 SK
SKNet讲解
走在深度学习前沿的小宋
05-26 3012
视皮层神经元的感受野大小受刺激的调节，即对不同刺激，卷积核的大小应该不同，但在构建CNN时一般在同一层只采用一种卷积核，很少考虑因图片大小不同采用不同卷积核。 于是提出了SKNet。在SKNet中，不同大小的感受视野（卷积核）对于不同尺度的目标会有不同的效果。尽管在Inception中使用多个卷积核来适应不同尺度图像，但是卷积核权重相同，参数就是被计算好的了。而SKNet对不同输入使用的卷积核感受野不同，参数权重也不同，可以根据输入大小自适应的进行处理。
SKNet——《Selective Kernel Networks》
qq_28454857的博客
03-27 1461
论文地址：https://arxiv.org/abs/1903.06586 代码地址：https://github.com/implus/SKNet 9012年了，图像分类这一基础问题也越来越难做了，本次论文主要是看的CVPR2019的一篇图像分类领域的论文，主要是看文章的思想，毕竟图像这几个领域的各种block可以到处拿着用，总会有管用的当，（不管用看起来也很花里胡哨了，手动狗头），当然在论文...
SKNet: Selective Kernel Networks
00000cj的博客
02-08 2040
Selective Kernel Networks https://github.com/implus/PytorchInsight SKNet——SENet孪生兄弟篇 - 知乎 https://github.com/ResearchingDexter/SKNet_pytorch https://github.com/pppLang/SKNet
SKNet：Selective Kernel Networks——选择性核网络
最新发布
Together_CZ的博客
02-22 926
SKNet：Selective Kernel Networks——选择性核网络
【Deep Learning】SKNet : Selective Kernel Networks 学习
Damu
04-18 3516
1. SKNet 论文思维导图   该思维导图使用 MindMaster 软件做出，源文件可以点击链接进行下载。 2. Selective kernel 结构介绍   本节主要介绍这篇论文的核心部分，即 Selective kernel 的相关内容 上图给出的是 Selective Kernel Convolution 的示意图，可以看出，此结构主要由三个部分组成，即： Split： ...
论文阅读笔记六十一:Selective Kernel Networks(SKNet CVPR2019)
weixin_33941350的博客
05-12 664
论文原址:https://arxiv.org/pdf/1903.06586.pdf github: https://github.com/implus/SKNet 摘要 在标准的卷积网络中，每层网络中神经元的感受野的大小都是相同的。在神经学中，视觉神经元感受野的大小是由刺激机制构建的，而在卷积网络中却很少考虑这个因素。本文提出的方法可以使神经元对于不同尺寸的输入信息进...
SKAttention:Selective Kernel Networks---CVPR2019
hb_learing的博客
11-22 4475
这是CVPR2019的一篇文章，致敬了SENet的思想。在传统的CNN中每一个卷积层都是用相同大小的卷积核，限制了模型的表达能力；而Inception这种“更宽”的模型结构也验证了，用多个不同的卷积核进行学习确实可以提升模型的表达能力。作者借鉴了SENet的思想，通过动态计算每个卷积核得到通道的权重，动态的将各个卷积核的结果进行融合。 个人认为，之所以所这篇文章也能够称之为lightweight，是因为对不同kernel的特征进行通道注意力的时候是参数共享的（i.e. 因为在做Attention之前，首先将
（论文翻译）Selective Kernel Networks（多尺度注意力CVPR2019）
qq_39214409的博客
05-11 1838
在标准的CNNs网络中，每层中的人工神经元的感受野size是固定的挑战：众所周知，神经科学领域中，视觉皮层神经元的感受野size随着刺激进行改变，在CNNs的构建中很少被考虑方法在CNNS中，我们提出了一种动态选择机制，它使每个神经元动态的调整基于输入信息的多尺度的感受野size一种SK unit被设计，其中不同感受野size的多种branches通过这些branches上的信息使用进行融合branches上不同的attention在融合层中会产生不同的神经元感受野size。
视觉注意力机制——SKNet- Selective Kernel Networks
CharmsLUO的博客
11-18 3395
论文下载：https://arxiv.org/abs/1903.06586 代码下载：https://github.com/implus/SKNet 文章目录视觉注意力机制——SKNet- Selective Kernel Networks一、SKNet 视觉注意力机制——SKNet- Selective Kernel Networks 通常将软注意力机制：空间域、通道域、混合域、卷积域。 （1） 空间域——将图片中的的空间信息做相应的空间变换得到相应的权重分布，从而能将关键的信息提取出来。代表作有：Spa
SKNet(2019)
studyeboy的专栏
08-17 831
在神经科学界，视皮层神经元的感受野大小受到刺激的调节，即对不同刺激，感受野的大小应该不同。目前很多卷积神经网络的相关工作都只是通过改进网络的空间结构来优化模型，如Inception模型通过引入不同大小的卷积核来获得不同感受野上的信息。但在构建传统CNN时一般在同一层只采用一种卷积核，即对于特定任务特定模型，卷积核大小是确定的，很少考虑多个卷积核的作用。 我们在看不同尺寸不同远近的物体时，视觉皮层神经元接受域大小是会根据刺激来进行调节的。作者提出了一种在CNN中对卷积核的动态选择机制，该机制允许每个神经元根据
Selective Kernel Networks 论文思维导图
04-18
该资源给出了论文 Selective Kernel Networks 整体的思维导图情况，可以更方便的加深对论文的理解与应用，所使用的软件是 MindMaster
最近论文汇总：Selective Kernel Networks SK-NET
深度菜鸡-达闻西的博客
11-07 211
论文名称：Selective Kernel Networks 论文链接：Selective Kernel Networks 代码链接：https://github.com/pppLang/SKNet 文章目录一、摘要二、理论研究 一、摘要 二、理论研究
Selective Kernel Networks论文总结和代码实现
qq_45981086的博客
05-27 3818
在SKNet中可以看到许多SE模块的痕迹，总的来说SK模块先是通过不同的卷积核将输入特征图进行划分为几个不同的子特征图，再将子特征图相加融合，再经过压缩和softmax处理，得到各种内核上的注意力权重，再与对应子特征图相乘，再相加得到最终的输出特征图V，这个特征图既融合了多个感受野的信息，具有了多尺度的信息。
SKNet解读
热门推荐
luxinfeng的博客
10-04 1万+
SKNet的全称是“Selective Kernel Network”,它和SENet都是一个团队提出来的，SENet是对通道执行注意力机制，而SKNet则是对卷积核执行注意力机制，即让网络自己选择合适的卷积核。 论文地址 SKNet的核心模块如下图所示。 在该模块中，作者使用了多分支卷积网络、组卷积、空洞卷积以及注意力机制。 多分支卷积网络 多分支卷积网络，如字面意思，含有多于一个分支的卷积网...
Selective Kernel Networks
Acmer_future_victor的博客
03-06 816
Selective Kernel Networks Abstract 在标准的卷积神经网络(CNN)中，每层人工神经元的感受野都被设计成具有相同的大小。众所周知，视觉皮层神经元的感受野大小受刺激的调节，在构建CNN时很少考虑这一点。我们提出了一种CNN中的动态选择机制，允许每个神经元根据输入信息的多个尺度自适应地调整其感受野大小。设计了一种称为选择核(SK)单元的构建块，利用这些分支中的信息指导的Softmax注意力对不同核大小的多个分支进行融合。对这些分支的关注不同，融合层神经元的有效感受野大小也不同。多
一个点云语义分割网络-论文整理SK-Net: Deep Learning on Point Cloud via End-to-end Discovery of Spatial Keypoints
weixin_43291835的博客
07-21 465
论文整理SK-Net: Deep Learning on Point Cloud via End-to-end Discovery of Spatial Keypoints 该论文提出了 一个PDE模块+局部区域置换不变性+两个损失调节 1)PDE模块提取了局部区域细节特征和局部区域间空间特征 2）做PED之前对局部区域细节特征M*256特征做max-pooling保证他们置换不变性 3）两个损失调节 a.为保证关键点skpoints能显著性分布，分别计算两个关键点间的距离和超参数作对比： b.尽量使关
2019 CVPR 《Selective Kernel Networks》 PyTorch实现
oldsummer
05-04 358
import numpy as np import torch from torch import nn from torch.nn import init from collections import OrderedDict # selective kernel attention # 多个卷积核的通道注意力 # 方法出处 2019 CVPR 《Selective Kernel Networks》 class SKAttention(nn.Module): # 初始化层 def _.
自适应感受野：选择性核网络在深度学习中的应用
"选择性核网络（Selective Kernel Networks, SKNets）是一种深度学习模型，它引入了一种新的动态选择机制，使神经元能够根据多尺度输入信息自适应地调整其感受野大小。这一机制受到生物视觉系统中神经元感受野可调性...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值