- 博客(2)
- 收藏
- 关注
原创 Resnet
形式上,将期望的基础映射表示为H(x),我们将堆叠的非线性层拟合另一个映射F(x)=H(x)−x。残差路径可以大致分成2种,一种有bottleneck结构,即下图右中的1×1 卷积层,用于先降维再升维,主要出于降低计算复杂度的现实考虑,称之为“bottleneck block”,另一种没有bottleneck结构,如下图左所示,称之为“basic block”。那么深层网络的解空间应该是包含浅层网络的解空间。显然,这是个优化问题,反应出结构相似的模型,其优化难度是不一样的,且难度的增长并不是线性的,
2023-11-06 11:32:15
505
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人