深度学习—卷积神经网络AlexNet

最新推荐文章于 2025-11-28 08:45:40 发布
原创 最新推荐文章于 2025-11-28 08:45:40 发布 · 1.6k 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#网络 #神经网络 #卷积 #算法 #机器学习

本文介绍了深度学习中的重要里程碑—AlexNet，详细分析了其历史、网络结构，并探讨了ReLu函数、最大池化、随机丢弃、数据扩增及GPU加速等关键改进，这些方法对现代深度神经网络训练有着重要影响。

卷积神经网络AlexNet

在这一讲中，我们将详细讲解深度学习发展中的重要里程碑AlexNet。

1. AlexNet的历史

2012年Geoffrey Hintton的学生ALEX Krizhevsky构建了一个包含65万多个神经元，待估计参数超过6000万的大规模的卷积神经网络。他以自己的名字命名了这个神经网络叫作AlexNet，用以解决ImageNet数据集1000类的分类问题。在2012年，ImageNet测试比赛上取得了远超Goole和Facebook两个大公司的成绩。相比前面讲过的LeNet，AlexNet在网络结构上深了很多，即神经网络层数和每层神经元个数多了很多，但其基本思想与LeNet完全一样，我们看懂了LeNet后能很容易看懂AlexNet，下图1是AlexNet的网络结构图。

在这里插入图片描述

图1 AlexNet网络结构图

2. AlexNet网络结构简要分析

从图1也可以看到，它也是由一些卷积层、降采样层和全连接层组成的。需要注意的是层与层之间也有非线性函数和Batch Normalization，图中没有画出。下面举例说明AlexNet的网络结构。

例如在图中第一个卷积层中，输入的是227×227的彩色图片，由于彩色图片有RGB三个颜色分量，所以channel数量为3。第一个卷积层有96个11×11×3的卷积核，卷积的步长stride=(4,4)。

根据上一讲的思考题，如果一个M×N的图像和一个m×n的卷积核进行操作，移动步长stride=(P,Q)，即在长的方向上每步移动P个像素，在宽这个方向上每步移动Q个像素，请问经过卷积操作后获得的特征图的长H和宽W分别是多少呢？

H = f l o o r ( M − m P ) + 1 H=floor(\frac{M-m}{P})+1 H=floor(PM−m​)+1

W = f l o o r ( N − n Q ) + 1 W=floor(\frac{N-n}{Q})+1

最低0.47元/天 解锁文章
AlexNet详解
tt丫的博客
01-03 5531
分为上下两层，分别对应两个GPU的操作过程，除了中间某些卷积层和全连接层会有GPU间的交互外，其他层都是由两个GPU分别计算结果。除去局部响应规范化操作（LRN），AlexNet一共包含8层，前5层由卷积层（其中卷积层1、2、5后含有下采样层）组成，（中间还夹带一个平均池化），剩下的3层为全连接层。最后一层全连接层输出，得到1000个图像分类标签对应的得分值。除了GPU并行结构的设计，AlexNet网络结构和LeNet很相像。
Visio画神经网络卷积层
laonafahaodange的博客
11-18 1万+
简单记录下，画的是类似这种的 首先选择基本形状里的正方形，手动调整下大小 接着我们选中这个正方形，点击上方的视图 然后选择加载项→其他Visio方案→排列形状 选择形状边缘之间，间距全部设置为0，数目根据需要进行设置，这里示范一下生成一个3行3列的 生成的结果如图 接下来我们重新框住新生成的这个3x3的正方形（一定要全部框住！！！），右键选择组合 组合以后我们可以直接拖动这个大块的正方形了，然后我们继续右键，选择设置形状格式 在右边弹出的界面按照图中红色箭头找到三维旋转里面的预设 我们选择
经典卷积神经网络——AlexNet
最新发布
2301_80118964的博客
11-28 768
摘要：AlexNet是2012年由Alex Krizhevsky等人提出的经典卷积神经网络，在ImageNet竞赛中取得突破性成果。该网络采用5个卷积层和3个全连接层结构，创新性地使用ReLU激活函数、Dropout正则化和数据增强技术，有效解决了梯度消失和过拟合问题。文章详细解析了AlexNet的网络架构、各层参数配置及关键技术，并提供了基于PyTorch框架在FashionMNIST数据集上的完整实现代码，包括模型构建、训练和测试流程。虽然AlexNet奠定了现代CNN的基础，但其LRN层效果有限且计算
经典卷积神经网络详解（AlexNet、VGG、NiN、GoogLeNet、ResNet、DenseNet、CSPNet、Darknet、EfficientNet、SqueezeNet..）
热门推荐
zyw2002的博客
03-04 2万+
经典卷积神经网络详解（AlexNet、VGG、NiN、GoogLeNet、ResNet、DenseNet、CSPNet、Darknet、EfficientNet、SqueezeNet,MobileNet,GhostNet等）
AlexNet神经网络结构
weixin_30470857的博客
02-02 1178
Alexnet是2014年Imagenet竞赛的冠军模型，准确率达到了57.1%, top-5识别率达到80.2%。 AlexNet包含5个卷积层和3个全连接层，模型示意图： 精简版结构： conv1阶段 输入数据：227×227×3 卷积核：11×11×3；步长：4；数量（也就是输出个数）：96 卷积后数据：55×55×96 （原图N×N，卷积核大...
ALEXNET神经网络
Apikaqiu的博客
02-16 585
本文主要是学习了Dive-into-DL-PyTorch这本书。因此这篇博客的大部分内容来源于此书。框架使用的是pytorch，开发工具是pycharm 参考 动手学深度学习Dive-into-DL-Pytorch 参考链接 https://github.com/ShusenTang/Dive-into-DL-PyTorch https://github.com/zergtant/pytorch-...
基于深度卷积神经网络AlexNet的验证码识别研究.pdf
09-26
为了解决这些问题，本文将深度卷积神经网络AlexNet引入到验证码字符识别中，并对传统的深度卷积神经网络AlexNet的结构进行了改进，将原来的单任务学习模型改造成多任务学习模型。 深度卷积神经网络AlexNet是一种...
24深度卷积神经网络AlexNet.zip
07-31
实现了经典的卷积神经网络模型,如 LeNet、AlexNet、VGG 等。 实现了一些前沿的深度学习模型,如 GoogLeNet、ResNet 等。 实现了循环神经网络模型,如 RNN、GRU、LSTM 等。 实现了一些常见的深度学习任务,如图像分类、...
深度学习深度卷积神经网络（AlexNet）
09-24
深度学习深度卷积神经网络（AlexNet）是一种在图像识别领域具有里程碑意义的卷积神经网络结构，它由Alex Krizhevsky等人于2012年提出，因其在当年的ImageNet大规模视觉识别挑战赛（ILSVRC）中的卓越表现而声名鹊起。...
【动手学深度学习】7.1 深度卷积神经网络（AlexNet）（个人向笔记）
hxdxiaoming的博客
10-14 1196
在LeNet提出后，卷积神经网络在计算机视觉和机器学习领域中很有名气。但卷积神经网络并没有主导这些领域。这是因为虽然LeNet在小数据集上取得了很好的效果，但是在更大、更真实的数据集上训练卷积神经网络的性能和可行性还有待研究。事实上，在上世纪90年代初到2012年之间的大部分时间里，神经网络往往被其他机器学习方法超越，如支持向量机（support vector machines）。
AlexNet 神经网络
晓野豬
06-07 1555
  2006 年，研究人员成功利用 GPU 加速 CNN，相比 CPU 快了 4 倍。2012 年，由谷歌 Hinton 率领的团队提出新的卷积神经网络 AlexNet，在 ImageNet 2012 的图片分类任务上，以 15.3% 的错误率登顶，而且以高出第二名十几个百分点的差距吊打所有其他参与者。论文为《ImageNet Classification with Deep Convolutional Neural Networks》。AlexNet 的出现标志着神经网络的复苏和深度学习的崛起。  Ale
AlexNet深度神经网络
07-19
Alex在2012年提出的alexnet网络结构模型引爆了神经网络的应用热潮，并赢得了2012届图像识别大赛的冠军，使得CNN成为在图像分类上的核心算法模型。
第十五节，卷积神经网络之AlexNet网络详解(五)
weixin_30242907的博客
04-11 2980
原文 ImageNet Classification with Deep ConvolutionalNeural Networks 下载地址：http://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf 在这之前，关于AlexNet的讲解的博客已经有很...
卷积神经网络之AlexNet
weixin_30276935的博客
01-29 455
由于受到计算机性能的影响，虽然LeNet在图像分类中取得了较好的成绩，但是并没有引起很多的关注。 知道2012年，Alex等人提出的AlexNet网络在ImageNet大赛上以远超第二名的成绩夺冠，卷积神经网络乃至深度学习重新引起了广泛的关注。 AlexNet特点 AlexNet是在LeNet的基础上加深了网络的结构，学习更丰富更高维的图像特征。AlexNet的特点： 更深的网络结构 使用层叠的...
4-1 AlexNet神经网络
Drug discovery
02-03 1万+
【Mo 人工智能技术博客】卷积神经网络 AlexNet
Mo 的博客
06-29 1313
1.介绍 LeNet 是最早推动深度学习领域发展的卷积神经网络之一。这项由 Yann LeCun 完成的开创性工作自 1988 年以来多次成功迭代之后被命名为 LeNet5。AlexNet 是 Alex Krizhevsky 等人在 2012 年发表的《ImageNet Classification with Deep Convolutional Neural Networks》论文中...
经典卷积神经网络-AlexNet
houjingchuan的博客
01-01 1925
2012 年， 出自论文《ImageNet Classification with Deep Convolutional Neural Networks》中的AlexNet被称为是首个真正意义上的深度卷积神经网络。这个模型的名字来源于论文第一作者的姓名 Alex Krizhevsky。AlexNet 使用了 8 层卷积神经网络，并以很大的优势赢得了 ImageNet 2012 图像识别挑战赛冠军。本文使用Pytorch复现了AlexNet并在猫狗二分类数据集上进行训练和预测。
手把手搭建经典神经网络系列（1）——AlexNet
2401_83601703的博客
04-06 1892
（笔者没有2块GPU，所以后面基于pytorch架构搭建的AlexNet网络模型是有所改动的，当然这里无伤大雅）每个全连接层有4096个神经元。AlexNet之前神经网络一般使用**tanhsigmoidReLU**表达式为：实验结果表明，要将深度网络训练至，但的迭代，用倍。Dropout属于中的一种，dropout的作用是，可以用在卷积层和全连接层。但是在卷积层一般不用dropout, dropout是用来,卷积层参数本来就没有全连接层参数多，。
神经网络系列（二）--AlexNet解析
coder
10-30 1396
AlexNet 网络模型 一、简介 AlexNet是2012年ImageNet竞赛冠军获得者Hinton和他的学生Alex Krizhevsky设计的。也是在那年之后，更多的更深的神经网路被提出，比如优秀的vgg,GoogleLeNet。其官方提供的数据模型，准确率达到57.1%,top 1-5 达到80.2%. 这项对于传统的机器学习分类算法而言，已经相当的出色。 二、特性 （相比LeNet） ...
深度卷积神经网络AlexNet
03-16
### AlexNet 架构特点 #### 1. 多层结构设计 AlexNet 是一种具有多层结构的深度卷积神经网络，其核心由八层组成，其中包括五层卷积层和三层全连接层。这种分层的设计使得模型能够逐步提取图像中的低级特征（如边缘、角点）以及高级语义特征（如物体形状）。通过增加网络层数，AlexNet 显著提升了模型的学习能力[^3]。 #### 2. ReLU 激活函数的应用 相比于传统的 Sigmoid 或 Tanh 激活函数，AlexNet 首次大规模应用了 Rectified Linear Unit (ReLU) 激活函数。ReLU 的引入不仅加快了训练速度，还有效缓解了梯度消失问题，从而提高了模型性能。 #### 3. 数据增强技术 为了减少过拟合并提升泛化能力，AlexNet 利用了数据增强技术。具体方法包括随机裁剪输入图片的不同部分、水平翻转以及颜色变换等操作。这些技巧增加了训练集的有效样本数量，使模型更加鲁棒。 #### 4. Dropout 正则化策略 在全连接层中，AlexNet 使用了 Dropout 技术来防止过拟合现象的发生。Dropout 方法会在每次迭代过程中随机丢弃一部分神经元及其连接权重，以此模拟多个子网络的效果，最终提高整体模型的稳定性。 #### 5. GPU 并行计算支持 由于 AlexNet 参数量庞大且运算复杂度高，在单个 GPU 上难以高效完成整个前向传播与反向传播过程。因此，该模型采用了双GPU并行处理方案：将两组几乎相同的卷积核分别部署于两个独立的GPU上，并通过特定方式共享少量跨设备的信息流实现同步更新参数的目的。 ```python import torch.nn as nn class AlexNet(nn.Module): def __init__(self, num_classes=1000): super(AlexNet, self).__init__() self.features = nn.Sequential( nn.Conv2d(3, 64, kernel_size=11, stride=4, padding=2), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=3, stride=2), # 更多卷积层... ) self.classifier = nn.Sequential( nn.Dropout(), nn.Linear(256 * 6 * 6, 4096), nn.ReLU(inplace=True), nn.Dropout(), nn.Linear(4096, 4096), nn.ReLU(inplace=True), nn.Linear(4096, num_classes), ) def forward(self, x): x = self.features(x) x = x.view(x.size(0), 256 * 6 * 6) x = self.classifier(x) return x ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值