CV 经典主干网络 (Backbone) 系列: ResNet变种

最新推荐文章于 2025-02-28 00:15:25 发布
最新推荐文章于 2025-02-28 00:15:25 发布
阅读量1.9k 收藏 10
点赞数
分类专栏： Backbone 文章标签： resnext resnest densenet 结构 总结
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/kuweicai/article/details/115028030
版权
本文介绍了ResNet的几个重要变种，包括ResNeXt的分组卷积、ResNeSt的Split-Attention结构、Res2Net的多尺度架构以及DenseNet的特征重用，探讨它们在网络性能提升上的贡献。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

CV 经典主干网络 (Backbone) 系列: ResNet变种

该篇是 CV 经典主干网络 (Backbone) 系列 下的一篇文章。

ResNet 出来后，大家又基于 ResNet 提出了很多改进版本，这里主要对一些效果比较好的变种进行简单介绍。

1. ResNeXt

作者：Saining Xie 等
发表时间：2016
Paper 原文： Aggregated Residual Transformations for Deep Neural Networks

ResNeXt 一作虽然不是何凯明，但是他依然有参与。ResNet 是结合了 Inception net 和 ResNet 的思想，提出的一种网络结构。

1.1 网络结构

ResNet 中通过重复的堆叠 block，从而使得其结构非常的简单，这样仅仅通过控制网络的深度就可以完成超参数的选择，比如你可以选择 18 或者 50 或者其他的层数，而不用关心其内部的具体结构。

Inception net 中通过精心设计的 Inception Module，在某些数据集中可以达到好的效果，可是如果要应用到其他场景下，修改起来就比较麻烦了。

因此作者提出了 ResNeXt，和 ResNet 一样，依然采用堆叠 block 的方式来搭建网络，但是 block 的结构和 Incep

最低0.47元/天 解锁文章
ResNet变种（ResNet-B/C/D、Res2Net、ResNeXt、ResNeSt）
认真努力，做一只会飞的毛毛虫。
11-01 8705
ResNet-B/C/D ResNet-B：将残差分支的下采样移到后面的3×3卷积里，避免了信息的大量流失。因为原始1×1卷积既要降维又要降尺寸，信息流失比较严重，因此做一个解耦。 ResNet-C：将输入部分的7×7卷积核替换为3个3×3卷积核，显著降低参数量和计算量。 ResNet-D：在ResNet-B的基础上，做了一个解耦，将identity部分的下采样交给avg pool去做，避免出现1×1卷积和下采样同时出现造成信息流失。 Res2Net 理解多尺度目标：目标在输入图片里面
ResNet及其变种
weixin_39958313的博客
03-08 2131
本文内容： ResNets 几个ResNet的Identity mapping 方式 WRNs ResNeXt Res2Net ResNet: 论文链接：https://arxiv.org/abs/1512.03385 CNN网络存在的两个问题：一，vanishing/exploding gradients；深度会带来恶名昭著的梯度弥散/爆炸，...
ResNet算法：深度学习中的里程碑
最新发布
2301_80680974的博客
02-28 515
ResNet由多个残差块（Residual Block）堆叠而成，不同深度的ResNet（如ResNet-18、ResNet-50等）主要区别在于残差块的数量和类型。然而，随着网络深度的增加，研究人员发现网络性能并没有如预期般提升，反而出现了退化现象，即更深的网络在训练集和测试集上的准确率反而不如较浅的网络。- 每个块包含两个3×3的卷积层和一个跳跃连接（Skip Connection），公式为 \(H(x) = F(x) + x\)，其中 \(F(x)\) 是卷积层的输出。
Resnet网络及其变种
weixin_38646522的博客
05-10 1144
具体阐述一下ResNet网络的细节，你知道的ResNet网络的相关变种有哪些？ 1. ResNet解决了什么问题？ 首先在了解ResNet之前，我们需要知道目前CNN训练存在两大问题： 梯度消失与梯度爆炸：因为很深的网络，选择了不合适的激活函数，在很深的网络中进行梯度反传，梯度在链式法则中就会变成0或者无穷大，导致系统不能收敛。然而梯度弥散/爆炸在很大程度上被合适的激活函数(ReLU)、流弊的网络初始化(Kaiming初始化、BN等Tricks)处理了。 梯度弥散：当深度开始增加的时候, accuracy
来聊聊ResNet及其变种
AI算法修炼营的博客
05-10 3225
点击上方“AI算法修炼营”，选择“星标”公众号精选作品，第一时间送达01ResNet网络结构2015 年，ResNet 横空出世，一举斩获 CVPR 2016 最佳论文奖，而且在 Ima...
【机器学习&深度学习】ResNet及其变种的结构梳理、有效性分析与代码解读
JianJuly的博客
07-25 2695
原链接：https://zhuanlan.zhihu.com/p/54289848 0、前言 何凯明等人在2015年提出的ResNet，在ImageNet比赛classification任务上获得第一名，获评CVPR2016最佳论文。因为它“简单与实用”并存，之后许多目标检测、图像分类任务都是建立在ResNet的基础上完成的，成为计算机视觉领域重要的基石结构。 本文对ResNet的论文进行简...
论文笔记：主干网络——ResNet
liuzeyao_Newton的博客
04-30 1294
Deep Residual Learning for Image Recognition 图像识别中的深度残差学习网络
CV 经典主干网络 (Backbone) 系列: ResNet家族
生命在于折腾！
03-20 3094
CV 经典主干网络 (Backbone) 系列: ResNet家族 作者：Kaiming He 等 发表时间：2015 Paper 原文： Deep Residual Learning for Image Recognition 该篇是 CV 经典主干网络 (Backbone) 系列 下的一篇文章。 ResNet 在 CV 发展史上有非常重要的意义，它在 ImageNet 挑战赛上，首次实现了超越人类的水平。关于 ResNet 的介绍，将分为上下两个部分： ResNet家族：主要介绍原版（凯明大神论文
深度学习中的经典基础网络结构（backbone）总结
热门推荐
生命在于折腾！
10-28 3万+
深度学习中的经典基础网络结构总结 1. 深度学习发展历史回顾 在开始正式内容之前，首先回顾下深度学习发展史，这将使整体内容更为连贯。 上图主要展示了深度学习的 “史前文明”（这里仅仅是开玩笑的说法）。从图中可以看到整个历史始于1943年，有三个发展繁荣期和两个低谷。 1943年，心理学家麦卡洛克和数学逻辑学家皮兹发表论文《神经活动中内在思想的逻辑演算》，提出了MP模型。 1960年，...
MambaVision：一种混合Mamba-Transformer视觉主干网络
qq_45800507的博客
10-13 1300
摘要我们提出了一种新型的混合Mamba-Transformer主干网络，命名为MambaVision，它专门为视觉应用而设计。我们的核心贡献包括重新设计Mamba公式，以提高其有效建模视觉特征的能力。此外，我们对集成视觉变换器（ViT）与Mamba的可行性进行了全面的消融研究。我们的结果表明，在Mamba架构的最后一层加入多个自注意力模块大大提高了捕获长程空间依赖性的建模能力。基于我们的发现，我们引入了一系列具有分层架构的MambaVision模型，以满足各种设计标准。
深度学习笔记（神经网络+VGG+ResNet）
Young_Zn_Cu
08-05 999
激活函数（Activation Function），就是在人工神经网络的神经元上运行的函数，负责将神经元的输入映射到输出端，旨在帮助网络学习数据中的复杂模式。ReLU（Rectified Linear Unit）是一种常用的激活函数，全称为修正线性单元。它的主要作用是将输入值限制在一个非负的范围内。具体而言，当输入值小于0时，输出值为0；当输入值大于等于0时，输出值等于输入值本身。原理：SGD使用每个样本的梯度来更新模型参数，适用于大规模数据集。优点：简单易用，内存占用小。
论文阅读笔记20.05-第三周：ResNet的多种变种
volga_chen的博客
05-24 939
Residual Attention Network for Image Classification 这是一种将Attention和深层的ResNet思想结合的网络设计。利用Attention加强选择焦点、不同特征表征的能力，嵌入到已有的ResNet网络中去，在cifar-10/100和ImageNet上都取得了不错的效果。 RAN网络由一系列Attention模块构成，每一个模块有一个mask分支和一个trunk分支，后者就是正常地计算特征图，而前者则为每一个特征乘上了一个掩模。文中表示这是为了防止错误
【Paper Reading】ResNet论文解释及其变种深度网络
weixin_41729258的博客
04-18 406
Resnet及其变种Resnet简介Resnet blockblock 说明Resnet完整结构Resnet性能分类性能目标检测性能Dense BlockBlock说明Densnet完整结构 Resnet简介 2015 年，ResNet 横空出世，获得了 CVPR 2016 最佳论文奖，在 Imagenet 比赛的三个任务以及 COCO 比赛的检测和分割任务上均获得了第一名。四年过去，这一论文的被...
CV 经典主干网络 (Backbone) 系列: CSPNet
生命在于折腾！
11-13 8005
CV 经典主干网络 (Backbone) 系列: CSPNet 作者：Chien-Yao Wang 等 发表时间：2019 Paper 原文： CSPNet: A New Backbone that can Enhance Learning Capability of CNN 开源代码：Cross Stage Partial Networks 该篇是 CV 经典主干网络 (Backbone) 系列 下的一篇文章。 作者认为目前的网络结构虽然效果好，但是都是建立在较大的计算量上的，这阻碍了算法应用 ，特别是
【计算机视觉】目标检测主干网络（backbone）和颈部结构（neck）目录
F2ancisZ的博客
05-12 3365
目标检测的backbone和neck介绍和目录。
backbone骨干网络
金石软件
04-03 1590
这些网络由多个卷积层和池化层组成，具有深层的架构。：在语义分割任务中，通常在骨干网络的基础上添加一个解码器网络，用于将骨干网络提取的特征映射回原始图像的像素级别，以生成语义分割的结果。: ResNeXt 是对 ResNet 的改进，引入了分组卷积的概念，以提高网络的表示能力，同时保持模型的计算效率。以上是一些常见的骨干网络，每个网络都有其独特的架构和特点，可以根据具体的任务需求和资源限制选择合适的骨干网络。：在目标检测任务中，通常在骨干网络的基础上添加一个额外的头部网络，用于预测图像中物体的位置和类别。
新resnet和resnext结构的改动
shirleycyy的博客
03-18 2444
对resnet 和resnext 网络结构进行修改。主要修改为两处第一处：原先的bottleneck 模块三层卷积层，1*1                                  increase_dim=True:stride=2   increse_dim=False:stride=13*3stride=11*1stride=1而网站上有这样一句话：且在resnet.lua 和re...
目标检测——主干网络backbone的测试方法
墨门
02-19 1014
1 前言 最近自己在联系写作Xception，在测试的时候，希望写一下笔记记录自己的经验和体会～ 2 主干网络backbone的测试方法 2.1 自洽性（self consistency）测试 主要是从张量运算的角度出发，测试模型的运算是否正确， 具体来说，就是测试Module的forward过程是否能正常执行，而不会出现编译错误； ...
【YOLOv5进阶】——替换主干网络（backbone）-MobileNet为例
weixin_51658186的博客
07-08 1795
替换网络主体，即配置文件中的backbone，这里以轻量级网络MobileNet的替换为例，替换后网络参数数量降低了近一半，速度快了1倍左右，但训练效果指标相比之前不佳。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值