
resnet
xiewenbo
互联网广告行业呆过几年,旅游公司呆过几年,对机器学习,自然语言处理,图像识别,个性化推荐 有兴趣
展开
-
resnet(残差网络)的F(x)究竟长什么样子?
比较好的数据推导:https://zhuanlan.zhihu.com/p/42706477 想弄明白resnet的机制,看了不少网络资源,都提到“H(X)= F(X)+X。H映射计算复杂,F(X)计算相对简单,所以加深网络是OK的”。。。H(X)知道是什么,两个隐藏层节点多的话训练复杂也可以理解。但是没有那篇资料详细写过F(X)长啥样子?多少参数?为何它会比H(X)参数少?然后,resne...原创 2018-05-25 15:36:36 · 1302 阅读 · 0 评论 -
论文笔记:Deep Residual Learning
转处:https://www.cnblogs.com/jermmyhsu/p/8228007.html之前提到,深度神经网络在训练中容易遇到梯度消失/爆炸的问题,这个问题产生的根源详见之前的读书笔记。在 Batch Normalization 中,我们将输入数据由激活函数的收敛区调整到梯度较大的区域,在一定程度上缓解了这种问题。不过,当网络的层数急剧增加时,BP 算法中导数的累乘效应还是很容易让梯...转载 2018-05-25 16:25:18 · 310 阅读 · 0 评论 -
ResNet-50
https://datascience-enthusiast.com/DL/Residual_Networks_v2.html#Residual-Networks转载 2018-11-20 16:24:22 · 933 阅读 · 0 评论