Resnet 学习笔记

最新推荐文章于 2022-10-15 17:38:52 发布

小小小小侯

最新推荐文章于 2022-10-15 17:38:52 发布

阅读量470

点赞数

分类专栏：深度学习

本文链接：https://blog.youkuaiyun.com/weixin_44530058/article/details/119512269

版权

ResNet通过引入残差学习解决了深度CNN网络的退化问题，允许网络层数加深而不牺牲性能。何凯明团队在2015年的研究中提出，深度残差网络在ImageNet上取得冠军，残差学习通过学习残差函数，使得网络更容易优化，避免了梯度消失。ResNet网络结构通过短路机制和恒等映射确保信息无损传递，从而在深度增加时保持性能稳定。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1、引言

2015年，MSRA（微软亚洲研究院）何凯明团队的深度残差网络（Deep Residual Network）在Imagenet上取得冠军，可以说深度残差网络的提出是CNN图像史上的里程碑事件，Resnet的作者何凯明也因此获得了CVPR2016最佳论文奖。Resnet为什么这么强大，备受人们的青睐呢？因为它解决了深度CNN网络模型训练难的问题。我们知道2014年的VGG才19层，而15年的Resnet多达152层，这在网络深度上完全不是一个层次，我们可能会理所当然的认为Resnet是靠深度取胜的，但是事实并不完全是这样，除了深度，Resnet还有它自己架构上的小trick，这才使得网络的深度发挥出作用，而这个trick就是残差学习（Residual learning）

论文地址：https://arxiv.org/pdf/1512.03385v1.pdf

2、Resnet提出的原因

对于传统的深度学习网络，我们普遍认为网络越深、参数越多，网络非线性的表达能力就越强，学习到的东西也就越多。凭借这一规则，经典的CNN网络从LeNet-5（5层）、AlexNet（8层），发展到VGGNet（16-19层），再到后来的GoogleNet（22层）。VGG网络试着探寻了一下深度学习网络究竟可以深到何种程度，依然能继续提高分类的准确率，它的实验结果告诉我们，在某种程度上&#

最低0.47元/天解锁文章