解释 ResNet 中的残差连接（面试题200合集，高频、关键）

详细解释 ResNet 中的残差连接

残差连接（Residual Connection）是 ResNet（残差网络）中的一项关键创新，它有效解决了深层神经网络训练中的梯度消失和爆炸问题，同时使得构建和训练非常深的网络成为可能。以下是对残差连接的详细解释。

---

1. 残差连接的背景

在深度学习中，随着神经网络层数的增加，训练通常会变得更加困难。在深层网络中，反向传播过程中的梯度可能会变得极小（称为梯度消失）或极大（称为梯度爆炸），导致网络难以收敛甚至性能退化。为了应对这些问题，ResNet 引入了残差连接的概念，这一设计显著提升了深层网络的训练效率和表现。

---

2. 残差连接的原理

残差连接的核心思想是让网络学习残差映射而不是直接学习期望的输出映射。假设我们希望网络学习的函数是 H ( x )