ResNet学习介绍

研究小白刘先森

于 2020-08-30 17:59:55 发布

阅读量1.7k

点赞数 2

文章标签：网络卷积深度学习人工智能

本文链接：https://blog.youkuaiyun.com/m0_47988908/article/details/108308947

版权

本文介绍了ResNet（残差网络）的基本概念，解释了为何要使用残差网络结构来堆叠深层网络，以解决深度学习中梯度消失和退化问题。ResNet通过identity mapping和residual mapping实现网络性能不受深度影响，同时探讨了ResNet的不同模块设计，如ResNet34和ResNet50/101/152的bottleneck design。文章以ResNet101为例，展示了网络层分布，并提到了在网络结构中处理不同channel维度的方法。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

前言

最近在看有关ASSD目标检测的论文，其中提到使用ResNet101作为整个模型的主干网络，于是我就想着干脆把ResNet先通俗理解一遍，再进行下一步的ASSD模型的理解（ps：仅供参考，如有误解，还望指出）。

ResNet概述

在弄懂ResNet101之前，得先搞清楚什么是ResNet？(简单也很实用！)

ResNet是一种残差网络(Residual Network)，残差指的就是观测值与预测值之间的差，对于残差网络，作者是这样表述的：一层网络可以看做y = H(x)，而残差网络的一个残差块可以表示为H(x)= F(x) + x，从而残差F(x) = H(x) - x，在单位映射中，y=x便是观测值，而H(x)是预测值。其实我们可以把残差网络看作是一个子网络，通过对其不断堆砌而构成一个很深的网络。
在这里插入图片描述
在ResNet中提出了两种mapping(映射层)，一个是identity mapping(恒等映射层：输入等于输出，其实指的就是本身y = x)，其实就是上图中的x，另一个就是residual mapping(残差映射，其实指的是差：H(x) - x)，其实就是F(x)。这个结构使用了一种连接方法叫shortcut connection或skip connectionsÿ