LeNet、AlexNet、GoogLeNet、VGG、ResNet

最新推荐文章于 2024-10-27 14:12:06 发布

Fan2g

最新推荐文章于 2024-10-27 14:12:06 发布

阅读量616

点赞数

CC 4.0 BY-SA版权

分类专栏： deeplearning

本文链接：https://blog.youkuaiyun.com/u014135752/article/details/79975967

本文介绍了CNN的发展历程，从最早的LeNet开始，到AlexNet、GoogLeNet、VGG和ResNet等里程碑式的模型。LeNet作为CNN的鼻祖，开启了深度学习在图像识别领域的广泛应用。随后的模型通过增加深度、引入新结构，逐步降低了ILSVRC竞赛的错误率，直至超越人眼识别能力。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

CNN的发展史

上一篇回顾讲的是2006年Hinton他们的Science Paper，当时提到，2006年虽然Deep Learning的概念被提出来了，但是学术界的大家还是表示不服。当时有流传的段子是Hinton的学生在台上讲paper时，台下的机器学习大牛们不屑一顾，质问你们的东西有理论推导吗？有数学基础吗？搞得过SVM之类吗？回头来看，就算是真的，大牛们也确实不算无理取闹，是骡子是马拉出来遛遛，不要光提个概念。
时间终于到了2012年，Hinton的学生Alex Krizhevsky在寝室用GPU死磕了一个Deep Learning模型，一举摘下了视觉领域竞赛ILSVRC 2012的桂冠，在百万量级的ImageNet数据集合上，效果大幅度超过传统的方法，从传统的70%多提升到80%多。个人觉得，当时最符合Hinton他们心境的歌非《我不做大哥好多年》莫属。
这个Deep Learning模型就是后来大名鼎鼎的AlexNet模型。这从天而降的AlexNet为何能耐如此之大？有三个很重要的原因：

大量数据，Deep Learning领域应该感谢李飞飞团队搞出来如此大的标注数据集合ImageNet；
GPU，这种高度并行的计算神器确实助了洪荒之力，没有神器在手，Alex估计不敢搞太复杂的模型；
算法的改进，包括网络变深、数据增强、ReLU、Dropout等，这个后面后详细介绍。

从此，Deep Learning一发不可收拾，ILSVRC每年都不断被Deep Learning刷榜，如图1所示，随着模型变得越来越深，Top-5的错误率也越来越低，目前降到了3.5%附近，而在同样的ImageNet数据集合上，人眼的辨识错误率大概在5.1%，也就是目前的Deep Learning模型的识别能力已经超过了人眼。而图1中的这些模型，也是Deep Learning视觉发展的里程碑式代表。