qq_40146935的博客

resnet的好处 残差网络与普通网络不同的地方就是引入了跳跃连接,这可以使上一个残差块的信息没有阻碍的流入到下一个残差块,提高了信息流通,并且也避免了由与网络过深所引起的消失梯度问题和退化问题。 ...

损失函数 交叉熵损失函数 均方误差 过拟合要怎么解决 Dropout（随机失活）、Weight Decay（权重衰减）、减少模型参数、Early Stop、Regularization（正则化，包括L1，L2正则化等）、Augmentation（数据增强）、合成数据、Batch Normalization（批次标准化）、Bagging 和 Boosting（模型融合） ...

计算量 一次计算量为k×k次的乘法,(k×k-1)次的加法，输入特征为(B,W,H,C),卷积参数(K,S,C,O） 特征图大小 (（H-S+2P）/S）+1 * (（H-S+2P）/S）+1 )执行这么多次的卷积 当不是整数的时候向下取整 乘加的次数kk+k+k-1 = 2kk-1 输出一个特征图的加法 C-1 输出所有特征图的加法 O * (C-1) 乘加次数C * O * (C-1) * (（H-S+2P）/S）+1 * (（H-S+2P）/S）+1) * (2k*k-1)

1.smooth L1为什么有效 优点：更强的鲁棒性