【论文阅读】ResnetV1:Deep Residual Learning for Image Recognition

最新推荐文章于 2025-04-03 23:33:09 发布
原创 最新推荐文章于 2025-04-03 23:33:09 发布 · 540 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#Resnet

ResNet通过引入残差学习框架，解决了深层神经网络的退化问题，实现了网络深度与性能的正相关。文章详细介绍了ResNet的设计动机、核心贡献、具体实现方法及在不同数据集上的实验验证。

论文名称：Deep Residual Learning for Image Recognition
作者：Kaiming He \ Xiangyu Zhang\ Shaoqing Ren\ Jian Sun
论文地址：http://openaccess.thecvf.com/content_cvpr_2016/papers/He_Deep_Residual_Learning_CVPR_2016_paper.pdf
发表年份：CVPR 2016

Deep Residual Learning for Image Recognition发表在CVPR2016，当年的best paper，其残差思想一度统治视觉识别领域，把神经网络的有效深度扩展了一个数量级，基于Resnet的视觉模型一举拿下当年几乎所有的视觉识别类冠军！

1 动机

对于传统深度神经网络来说，随着网络的加深，训练难度会越来越大，性能也不会持续上升，而是呈现饱和状态，并且再加深会出现性能下降的情况，也就是所谓的模型退化问题（degradation problem）。如下图所示，在经历同样的训练过程后，20层明显优于56层的网络性能。

在这里插入图片描述

2 贡献

  • 本文作者提出一种新的学习框架，这种框架中，网络每一个Block(可以包含多个层)学习的实际上是本层输入与输出的差值，所以称为残差学习（Residual learning）。
  • 提出“瓶颈”块（“bottleneck” ）
  • 由Residual learning和“bottleneck”构建出__Resnet__
  • Resnet 能简单有效的解决退化问题(degradation problem)，实现 网络性能与其深度满足正相关关系 的目的。
  • Resnet 易于收敛，且推广性极强，甚至可直接用于传统深度神经网络(如Inception等)

3 方法

3.1 Residual learning

在这里插入图片描述
通过在一个浅层网络的基础上叠加y=x （称作identity mapping，恒等映射）的层，可以让网络随深度增加而不退化，却也永远无法超越一开始的浅层网络，这说明多层非线性网络无法逼近恒等映射网络或者说现有的训练手段直接用在多层恒等映射上是有问题的。
然而我们增加了计算量，想要的是更好的性能。相比于原来的简单堆叠网络层以及刚才的恒等映射，我们需要的是更好的映射，不仅可以保证模型不退化，而且可以提升性能。
在这里插入图片描述
作者提出了自己的见解，假设，我们期望的映射是H(x)，但是网络层能完成的映射是F(x)，那么就通过恒等映射y=x给网络层加把劲，即H(x)=F(x)+x。作者把F(x)=H(x)-x称为残差映射，认为相比于直接让网络完成H(x)，残差映射F(x)更容易学习。比如，在一个极端情况下，H(x)趋近于x,那么让F(x)=0比让传统的F(x)=x要简单的多，后者要做更精细的权重调节。

作者通过添加一个shortcut connection实现上述残差映射，公式如下：
在这里插入图片描述
公式(1)的+是对应元素的相加，这就要求F和x的维度是完全相同的，然而在某些情况下，F和x的维度可能会有偏差，针对这种情况，作者又提出了公式(2)，取名projection shortcuts。
在这里插入图片描述

3.2 网络架构

针对ImageNet
在这里插入图片描述

Figure 3.左图VGG19，中图堆叠式网络，右图Resnet34


在这里插入图片描述

Figure 4.Resnet针对ImageNet数据集的若干网络结构

这里注意，Fig3&Fig4中每一个conv都代表着conv+bn+relu

Bottleneck building block

在这里插入图片描述

Figure 5.左图普通残差块，右图bottleneck

作者巧妙地利用conv1x1随意更改通道数的特点提出了`bottleneck building block`，替代原来的 `residual learning building block`。在提升速度的情况下，提升了网络性能！！！ 在“bottleneck”中先用conv1x1降低通道数，然后conv3x3正常卷积，然后利用conv1x1提升通道数。图5中所示的左右结构的时间复杂度是接近的，并且右边略小于左边！ 另外，如果使用“bottleneck”结构，那么“shortcut”应该使用公式(1)实现，因为公式(2)会导致模型体积翻倍。 Fig4中的Resnet50就是通过“bottleneck”替换的方式从Resnet34演变而来的。

3.3 实现细节

本文针对ImageNet的实现同AlexNet和VGG使用采取同样的措施。

数据增强
  • 在保持图片宽高比的前提下把图片短的一个边缩放到[256,480] ，称为尺度增强；
  • 在上一步基础上水平翻转图像；
  • 在上一步生成的图像上随机裁剪出224x224的图像块；
  • 每个图像减掉ImageNet中图像的平均值，以减少训练时的计算量，同时还有助于提升模型性能；
  • 使用标准颜色增强
    • 在整个ImageNet上做图像RGB通道上的PCA
    • 对训练集的每张RGB图片都加上下面的一个值，其中p和λ是PCA中3x3的协方差矩阵的特征向量和特征值，α是从一个均值为0标准差为0.1的高斯分布中提取出的随机向量。
    • Alexnet中提到，使用这种颜色增强后是最终分类误差降低1%
      在这里插入图片描述
训练参数
  • 权重初始化使用Delving Deep into Rectifiers中提出的初始化方法(其中的n代表输入的数量,比如y=w’x，其中x是h-w-c那么n=h*w*c)，从0开始训练
    在这里插入图片描述
  • 优化器：SGD（Stochastic Gradient Descent，随机梯度下降）
    • 学习率 初始0.1，当train loss恒定时减小到原来的1/10
    • 权重衰减因子1e-4
    • 动量 0.9
  • 迭代次数60w次
  • 使用BN，不使用Dropout
测试方法
  • 标准10-crop testing
    • 截取原图四个角和中心的224x224的图像，得到5张子图
    • 把原图水平翻转之后，做同样的操作，又得到5张子图
    • 一共裁剪得到5+5=10张子图，这就是10-crop
    • 分别对10张子图做预测，最终结果取平均值

4 实验

4.1 验证residual learning

使用同样的训练方法，分别对plain-18,plain-34,resnet-18,resnet34进行训练。

在这里插入图片描述
Fig4的结果表明，在传统网络上引入残差块可以实现 网络深度与性能正相关 的目的，在18和34层的这个数量级上解决了模型退化问题(degradation problem)。

Table2中，纵向看是直接证明了Fig4中的现象，横向看，同样深度情况下，Resnet的性能更优，并且层数越深，Resnet的优势越明显。

4.2 验证projection shortcuts

在整个网络上，对于residual mapping的实现有以下三种配置：

  • A：统统使用公式(1)，F(x)与x维度有偏差的地方直接补0
  • B：维度相同情况下使用公式(1)，有偏差的地方使用公式(2) projection shortcuts
  • C：统统使用公式(2)
    在这里插入图片描述
    结果表明，B配置要明显优于A配置，C配置稍微优于B配置，但是B相对于A仅仅增加了极少量的参数和计算量，但是C相对B模型参数和计算量会增加太多，所以权衡性能与计算量，B是最佳实现方式！

4.3 验证 Bottleneck

在这里插入图片描述
注：Resnet50使用配置B
结果证明，Bottleneck对网络性能提升较大！而且前提是Bottleneck已经提升了网络的计算速度！

4.4 resnet VS other-net

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
其中Table5是ImageNet官方公布的测试效果，说服力更强。

上述网络结构和实验都是针对ImageNet数据集的！

4.5 针对CIFAR-10数据集的实验细节

网络结构

在这里插入图片描述

实现细节

  • 训练参数
    -batch size 128
    -学习率初始0.1，迭代32k(epoch≈10)和48k(epoch≈15)后各自缩减10倍，64k(epoch≈20)后结束训练。
    -其余参数与ImageNet相同
  • 数据增强
    • 对32x32的原图的每个边补上4个像素，然后再裁剪出来32x32的子图

结果

在这里插入图片描述
Fig6的左图和中图与Fig4所示现象相同。右图里的Resnet-1202的训练方式与Resnet-101等一致，也很容易收敛，最终也达到了比较好的测试效果，更进一步说明了残差块可以有效解决模型退化问题(degradation problem)。
但是同时可以发现，Resnet-1202的测试效果并不如Resnet-101，作者猜是因为过拟合(overfitting)，可以使用Dropout/Maxout解决，先搁置，以后再研究(we will study in the future)。

在这里插入图片描述

在这里插入图片描述

4.6 Resnet用于目标检测

使用Resnet-101替换掉Faster RCNN里的VGG-16，网络结构示意图如下：
在这里插入图片描述
细节

  • Resnet是在ImageNet上预训练过的
  • 使用conv5_x代替原来Faster中的fc层，它的结果直接输入到“cls”/“bbox regression”分支。
  • 训练检测器时，Resnet中的BN层不再参与学习，使用预训练时得到的平均值和方差。
  • 其他超参数的设置与原Faster中一致。
    在这里插入图片描述

5 思考

1.残差块推导时，我们想要的映射是H(x)，而作者给出的一种实现方式是通过F(x)+x实现，并且推导时假定这样是有效的，然后通过实验验证，这样确实有效。既然可以通过F(x)+x逼近H(x)，那么是否存在其他方式更好的逼近H(x)呢？
2.文中Fig7从上图到下图是如何产生的，Fig7中这种比对意义是什么？
3.文中Fig3中的FLOPs是如何计算的？

ResNet——Deep Residual Learning for Image Recognition(论文阅读)
Xiao_Ya__的博客
06-14 1754
ResNet——Deep Residual Learning for Image Recognition(论文阅读)
论文分享：Deep Residual Learning for Image Recognition
海不辞水故其深
06-02 1821
经典优化策略模型ResNet，之所以收录在此专栏，是因为现阶段的图像分割深层模型基本上都用到了残差块与跳接的思想，值得去细细品读。建议读者有时间的话自己也去看一下原文，相信会有更多的收获。 要点 1. 提出了一个残差学习框架，使更深网络的训练过程变得更加容易 2. 为残差网络更易优化的结论提供了全面的经验证据 3. 残差网络能够随着网络的加深继续提高精度 读引言 研究背景   网络的加深能够在多种任务中获得收益，取得领先结果的重要模型都是来自于非常深的模型。   但是这并不是意味着神经网络越深就能学.
【7】Deep residual learning for image recognition.pdf
08-26
Deeper neural networks are more difficult to train. We present a residual learning framework to ease the training of networks that are substantially deeper than those used previously. We explicitly reformulate the layers as learning residual functions with reference to the layer inputs, instead of learning unreferenced functions. We provide comprehensive empirical evidence showing that these residual networks are easier to optimize, and can gain accuracy from considerably increased depth. On the ImageNet dataset we evaluate residual nets with a depth of up to 152 layers—8 deeper than VGG nets [41] but still having lower complexity. An ensemble of these residual nets achieves 3.57% error on the ImageNet test set. This result won the 1st place on the ILSVRC 2015 classification task. We also present analysis on CIFAR-10 with 100 and 1000 layers. The depth of representations is of central importance for many visual recognition tasks. Solely due to our extremely deep representations, we obtain a 28% relative improvement on the COCO object detection dataset. Deep residual nets are foundations of our submissions to ILSVRC & COCO 2015 competitions1, where we also won the 1st places on the tasks of ImageNet detection, ImageNet localization, COCO detection, and COCO segmentation.
【论文阅读】Deep Residual Learning for Image Recognition
weixin_53563701的博客
01-03 847
今天读ResNet的论文。现在ResNet几乎成为行业标杆，遇到什么任务要用模型几乎首选残差网络。不知道为什么，国人写的文章看着就是亲切，读起来也很流畅，边和舍友聊天边读也读的很流畅，没有什么磕磕绊绊的地方，一口气就读完了。
论文笔记：Deep Residual Learning for Image Recognition（ResNet）
upup
06-09 7851
一、基本信息 标题：Deep Residual Learning for Image Recognition 时间：2015 第一作者：Kaiming He 论文领域：深度学习、计算机视觉、CNN 引用格式：He K, Zhang X, Ren S, et al. Deep residual learning for image recognition[C]//Proceedings of the IEEE conference on computer vision and pattern recognit
论文复现笔记（三）：Deep Residual Learning for Image Recognition
Cu_04的博客
04-03 2425
📌📄 论文标题：📚 发表期刊/会议：CVPR, 2016✍ 作者：Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun🔗。
Deep Residual Learning for Image Recognition.pdf
11-19
深度残差学习是一种在图像识别领域具有突破性意义的技术，其核心在于残差网络（ResNet）。残差网络能够解决深度神经网络在训练过程中梯度消失或梯度爆炸的问题，这在过去一直是阻碍网络训练深层数的重要难题。...
ResNet(论文阅读)：Deep Residual learning for Image Recognition
m0_54248968的博客
07-13 2173
深层神经网络往往更难训练，我们提出了一种残差学习框架，使得网络深度可以大幅度增加，同时降低了训练难度。我们明确地将每一层改造成相对于输入进行学习的残差函数，而不是学习无参考函数。大量的实证证据表明，这种残差网络更容易优化，并且可以通过显著增加网络深度来提高准确率。我们在ImageNet数据集上评估了最大深度达到152层的残差网络——比VGG网络深8倍，但复杂度更低。这些残差网络的集成在ImageNet测试集上的错误率为3.57%。此外，我们还对CIFAR-10数据集的100层和1000层进行了分析。
【论文精读】Resnet残差网络（Deep Residual Learning for Image Recognition）
a2333333_的博客
09-27 3008
原文提出了残差网络，本文对论文进行了精度，解析
Deep Residual Learning for Image Recognition
11-20
Deep Residual Learning for Image Recognition
04论文笔记《Deep Residual Learning for Image Recognition》
Lazyinit的博客
11-11 567
《Deep Residual Learning for Image Recognition》 基于残差学习的图像识别 作者：Kaiming He、Xiangyu Zhang、Shaoqing Ren、Jian Sun 【成绩】 ResNet——MSRA何凯明团队的Residual Networks，2015年，在ImageNet的classification、detection、local...
ResNet系列及其变体(一)—ResNetv1
Moeyinss
05-23 2130
–
【图像分类—ResNet V1】Deep Residual Learning for Image Recognition
扬帆·启航
01-18 649
论文解决的主要问题是深层的神经网络很难训练；提出了一种残差学习框架来减轻网络训练。
重读经典：《Deep Residual Learning for Image Recognition》
10点43的博客
10-24 1608
ResNet论文逐段精读【论文精读】
这就是神经网络 4：ResNet-V1、ResNet-V2、ReNeXt、SENet
yuanlulu的博客
12-05 9630
ResNet-V1（2015） ResNet在ILSVRC 2015分类任务上赢得了第一名。 ResNet在主要是为了解决深度网络的退化问题。退化问题是指，随着网络深度的增加，准确率达到饱和（这可能并不奇怪）然后迅速下降。这并不是由过拟合引起的，因为训练准确率也下降了。 考虑在一个浅层网络上增加恒等映射成为一个更深版本的网络，更深的模型不应当产生比它的浅层版本更高的训练错误率。作者的思路就是产生...
《Deep Residual Learning for Image Recognition》论文学习
weixin_46587777的博客
05-08 3102
Deep Residual Learning for Image Recognition 文章地址：《Deep Residual Learning for Image Recognition》 arXiv.1512.03385 ResNet Github参考：https://github.com/tornadomeet/ResNet 这是何大佬的一篇非常经典的神经网络的论文，也就是大名鼎鼎的ResNet残差网络，论文主要通过构建了一种新的网络结构来解决当网络层数过高之后更深层的网络的效果没有稍浅层网络好的问
经典网络-ResNet论文及实践
uncle_ll的博客
04-19 9200
Deep Residual Learning for Image Recognition 深度残差网络的图像识别 作者：Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun 单位：微软研究院 文章地址：https://arxiv.org/abs/1512.03385 项目地址：https://github.com/KaimingHe/deep-residual-networks 摘要 更深的神经网络更难训练。本文提出了一种残差学习框架来减轻网
ResNet论文逐句精读
这里什么也没有
01-13 1040
更深层次的神经网络更难训练。我们提出了一个残差学习框架，以简化比以前使用的网络更深的网络训练。我们明确地将层重新表示为参考层输入的学习残差函数，而不是学习未引用的函数。我们提供了全面的经验证据，表明这些残差网络更容易优化，并且可以通过显著增加的深度来获得准确性。在 ImageNet 数据集上，我们评估深度高达 152 层的残差网络，比 VGG 网络 [41] 深 8 倍，但复杂度仍然较低。这些残差网络的集合在 ImageNet 测试集上实现了 3.57% 的误​​差。
ResNet：《Deep Residual Learning for Image Recognition》解读
weixin_51032622的博客
08-23 1436
经典神经网络ResNet论文解读
Deep Residual Learning for Image Recognition这篇论文的源代码
最新发布
10-14
<think>嗯，用户这次的问题很明确，是要查找《Deep Residual Learning for Image Recognition》这篇经典论文的源代码。用户已经提供了论文的基本信息（CVPR 2016，Kaiming He等人），还贴心地给出了三个参考引用，不过这些引用主要是论文简介和资源推荐，没有直接提到代码位置。 从对话历史看，用户似乎正在研究计算机视觉领域，可能是个研究生或工程师。ta能准确说出论文全名，说明对领域有一定了解，但可能第一次接触ResNet实现细节。用户情绪应该比较急切——毕竟找代码这种事拖不得。 让我回忆下ResNet代码的常见来源：首先想到官方实现，但原论文没附代码链接（2015年arXiv版通常不包含）。好在作者团队后来在GitHub开源了，最权威的应该是微软亚洲研究院(MSRA)的仓库。另外PyTorch和TensorFlow官方模型库肯定有实现，毕竟ResNet是基础模型。 需要注意两点：一是用户可能要原始CAFFE实现（论文用的框架），二是现在主流用PyTorch重写版。我得把不同版本都列出来，让用户自己选。对了，还要提醒安装依赖——有些老仓库需要特定版本的CAFFE。 用户参考信息里提到优快云有复现文章，这类社区资源虽然非官方但适合初学者，顺便也列出来吧。最后强调下引用规范，毕竟学术场景要注意版权。 （翻查资料确认链接）MSRA的GitHub仓库还活跃着，PyTorch hub的resnet50文档也检查过了…… 嗯，这些资源应该够用户用了。要不要补充训练脚本位置呢？——算了，用户没问训练细节，先给入口就好。 </think>根据论文《Deep Residual Learning for Image Recognition》（Kaiming He et al., CVPR 2016）的官方信息及开源社区实践，其源代码可通过以下途径获取： --- ### **1. 官方实现（CAFFE框架）** 论文作者团队在**Microsoft Research Asia (MSRA)** 的GitHub仓库提供了原始实现： 🔗 [https://github.com/KaimingHe/deep-residual-networks](https://github.com/KaimingHe/deep-residual-networks) - 包含预训练模型（ResNet-50/101/152）和训练脚本。 - 使用CAFFE框架，支持ImageNet分类任务复现。 --- ### **2. PyTorch官方模型库** PyTorch已将ResNet集成至`torchvision.models`： ```python from torchvision import models resnet18 = models.resnet18(pretrained=True) # ResNet-18/34/50/101/152等 ``` - 文档：[PyTorch ResNet Docs](https://pytorch.org/vision/stable/models.html#id3) - 完整训练代码参考：[PyTorch Examples](https://github.com/pytorch/examples/tree/main/imagenet) --- ### **3. TensorFlow/Keras实现** - **TensorFlow官方模型库**： [TF Model Garden - ResNet](https://github.com/tensorflow/models/tree/master/official/vision/modeling/backbones/resnet) - **Keras内置模型**： ```python from tensorflow.keras.applications import ResNet50 model = ResNet50(weights='imagenet') ``` --- ### **4. 第三方复现资源** | 框架 | 资源链接 | |------------|--------------------------------------------------------------------------| | **PyTorch** | [pytorch-resnet](https://github.com/pytorch/vision/blob/main/torchvision/models/resnet.py) | | **TensorFlow** | [TF ResNet](https://github.com/tensorflow/models/blob/master/official/legacy/image_classification/resnet/resnet_model.py) | | **简明实现** | [ResNet in 20 Lines](https://github.com/ry/tensorflow-resnet) (学习用) | --- ### **注意事项** 1. 原始论文使用**CAFFE**，若需完全复现实验，建议优先选择[官方仓库](https://github.com/KaimingHe/deep-residual-networks)。 2. 预训练模型下载： - PyTorch：`pretrained=True`自动下载 - CAFFE：官方GitHub提供模型下载链接（`.caffemodel`文件）[^1]。 3. 训练数据需遵循ImageNet格式，数据集准备可参考[ImageNet官方](http://www.image-net.org/)。 --- ### 相关问题 1. **ResNet的残差连接如何解决深层网络梯度消失问题？** > 残差块通过恒等映射（$ \mathcal{F}(x) + x $）使梯度可直接回传至浅层，缓解了链式求导的梯度衰减[^1]。 2. **ResNet相比VGG/Inception有何创新？** > 通过短路连接（shortcut）构造残差学习，允许网络深度超过100层而不退化（2015年突破性进展）[^3]。 3. **如何在自己的数据集上微调ResNet？** > 修改最后一层全连接，冻结浅层参数，用较小学习率微调分类层（示例代码见PyTorch/TF文档）。 [^1]: Kaiming He et al. *Deep Residual Learning for Image Recognition*. arXiv:1512.03385 [^3]: CVPR2016 ResNet 论文解读与复现分析
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值