Alexnet

部署运行你感兴趣的模型镜像

好的我已经完全忘了,这是我之前写的。。。
1.五个卷积层 3个全连接层
2.alex.features.children()
children()与modules()都是返回网络模型里的组成元素,但是children()返回的是最外层的元素,modules()返回的是所有的元素,包括不同级别的子元素。
3.
在这里插入图片描述

您可能感兴趣的与本文相关的镜像

PyTorch 2.5

PyTorch 2.5

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库,基于 Torch 库,底层由 C++ 实现,应用于人工智能领域,如计算机视觉和自然语言处理

11-25
### AlexNet 的背景与发展 AlexNet 是深度学习发展史上的里程碑式模型,标志着卷积神经网络(CNN)在大规模图像识别任务中的突破性成功。该模型由 Alex Krizhevsky、Ilya Sutskever 和 Geoffrey Hinton 提出于2012年的论文 *ImageNet Classification with Deep Convolutional Neural Networks*,并在当年的 ImageNet 大规模视觉识别挑战赛(ILSVRC)中以远超传统方法的性能夺得冠军[^2]。 这一成果打破了以往基于手工特征提取(如SIFT、HOG)加浅层分类器的技术路线,证明了深层卷积神经网络可以直接从原始像素数据中自动学习有效的层次化特征表达,在复杂图像分类任务中具有强大优势[^2]。 --- ### AlexNet 架构详解 AlexNet 采用了一个相对深层的结构设计,共包含8层可学习参数的层:5个卷积层和3个全连接层[^2]。输入为 $227 \times 227 \times 3$ 的彩色图像,输出为1000类的类别概率分布。 #### 卷积部分 前五个层主要是卷积运算,用于逐步提取空间局部特征: - **第1层**:使用96个大小为 $11 \times 11$、步幅为4的卷积核,作用于输入图像;随后接最大池化层($3 \times 3$,步幅2),缓解过拟合并降低维度。 - **第2层**:应用256个 $5 \times 5$ 卷积核,同样带有最大池化。 - 后续三层为连续的卷积操作,分别使用384、384和256个 $3 \times 3$ 卷积核,无立即跟随的池化层。 这种逐层加深的设计使得高层能够捕获更抽象的语义信息,而底层专注于边缘、纹理等基础模式[^4]。 #### 激活函数与正则化机制 AlexNet 首次广泛采用了 ReLU(Rectified Linear Unit)作为激活函数: $$ \text{ReLU}(x) = \max(0, x) $$ 相比传统的 sigmoid 或 tanh 函数,ReLU 显著加快了训练速度,并有效缓解梯度消失问题[^2]。 为了防止过拟合,引入了 Dropout 技术,在训练过程中随机将一部分神经元输出置零(通常比例设为0.5),从而提升泛化能力[^2]。 此外,还使用了局部响应归一化(Local Response Normalization, LRN),旨在模仿生物神经系统的侧抑制现象,增强模型泛化效果。尽管后续研究表明其实际贡献有限,但在当时被认为是重要组件之一[^4]。 #### 数据增强策略 通过水平翻转、裁剪以及RGB色彩扰动等方式扩充训练样本数量,提高模型鲁棒性和不变性特性,使网络具备一定的平移、光照和形变容忍能力[^5]。 ```python import torch.nn as nn class AlexNet(nn.Module): def __init__(num_classes=1000): super(AlexNet, self).__init__() self.features = nn.Sequential( nn.Conv2d(3, 64, kernel_size=11, stride=4, padding=2), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=3, stride=2), nn.Conv2d(64, 192, kernel_size=5, padding=2), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=3, stride=2), nn.Conv2d(192, 384, kernel_size=3, padding=1), nn.ReLU(inplace=True), nn.Conv2d(384, 256, kernel_size=3, padding=1), nn.ReLU(inplace=True), nn.Conv2d(256, 256, kernel_size=3, padding=1), nn.ReLU(inplace=True), nn.MaxPool2d(kernel_size=3, stride=2), ) self.classifier = nn.Sequential( nn.Dropout(), nn.Linear(256 * 6 * 6, 4096), nn.ReLU(inplace=True), nn.Dropout(), nn.Linear(4096, 4096), nn.ReLU(inplace=True), nn.Linear(4096, num_classes), ) def forward(self, x): x = self.features(x) x = x.view(x.size(0), -1) x = self.classifier(x) return x ``` --- ### 关键创新点总结 | 创新 | 描述 | |------|------| | 使用 GPU 加速训练 | AlexNet 利用双GPU并行计算实现高效训练,解决了早期难以训练深网的问题[^2] | | ReLU 激活函数 | 替代饱和型非线性单元,加速收敛过程[^2] | | Dropout 正则化 | 减少全连接层之间的协同适应,改善过拟合[^2] | | 数据增强 | 扩充训练集多样性,提升模型对变换的鲁棒性[^5] | 这些技术创新共同推动了现代深度学习框架的发展方向。 --- ### 对后续模型的影响 AlexNet 成功激发了一系列更深更强的 CNN 结构研究,形成了典型的演进路径: - **ZFNet (2013)**:微调 AlexNet 中的第一层卷积核尺寸,优化可视化解释能力; - **VGGNet (2014)**:统一使用小卷积核堆叠代替大卷积核,验证深度的重要性; - **GoogLeNet / Inception Module (2014)**:提出多分支结构减少参数量的同时保持高性能; - **ResNet (2015)**:引入残差连接解决极深层次下的退化问题,支持上百甚至上千层网络[^4]。 因此,可以说 AlexNet 不仅是一个成功的竞赛模型,更是开启“深度”时代的关键起点。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值