本文总结了卷积神经网络的发展历程，从Lenet-5到AlexNet，再到VGGNet、GoogleNet、ResNet和DenseNet等。探讨了不同网络结构的特点，如Inception模块、Residual块、Dense连接等。同时，介绍了多种卷积操作，如1×1卷积、3×3卷积、空洞卷积、上采样以及跳跃连接，并提及了随机分组卷积、通道加权卷积等创新操作。最后，提到了损失函数如Label Smoothing Regularization、OHEM和Focal Loss在模型优化中的作用。
1.Lenet-5 ：最先出现的卷积神经网络，1998年，由于当时的硬件还不成熟，因此到了2012年出现了AlexNet
2.AlexNet：可以说是现在卷积神经网络的雏形
3.VGGNet：五个模块的卷积叠加，网络结构如下：
4.GoogleNet：inception v1,v2,v3, xception,基本思想就是对feature map用不同的卷积核filter进行卷积，然后concact，其中xception是对每个通道的feature map进行3×3的卷积，叫做通道分离卷积。
5.ResNet：分为building block，bottleneck都是叫做残差块，应为都有跳远连接，网络结构如下，主要也是五个大的模块：
6.DenseNet：主要思想是当前卷积层的输出feature map都要concact上一层的卷积输出，主要网络图如下：
7.一些好用的卷积操作：
1×1filter又叫通道卷积，可以实现bottleneck，改变通道数 。
3×3卷积，一般经典网络的卷积核大小，卷积前后图像大小保持不变，通道数翻倍，但一般会紧接着有池化操作，使得图像大小缩小为原来的1/2。
上采样：FCN网络中提到的上采样思想是先padd
最低0.47元/天 解锁文章
扫一扫
1005
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
