以LeNet为例分析CNN中的参数量

最新推荐文章于 2024-11-01 20:28:39 发布
最新推荐文章于 2024-11-01 20:28:39 发布
阅读量2.1k 收藏
点赞数 1
CC 4.0 BY-SA版权
分类专栏： CAFFE Deep Learning 工作
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Cheese_pop/article/details/78815759
本文以LeNet为例，详细分析了CNN中不同层的参数量。从C1、S2、C3到S4，解释了局部连接和权值共享如何减少参数数量，并给出各层的连接数和可训练参数量。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

这里写图片描述

CNN最重要的两点：局部连接和权值共享
局部连接：神经元和上层部分神经元相连接
权值共享：基于局部连接，在每个神经元和上层部分神经元之间权值是共享的，也就是说对于一个神经元，和它相连的所有上层神经元之间的权值都是一致的，这样可以大大减少参数量。对于在feature_map中的理解：对于一个feature_map只需要训练一种kernel。

首先，对于LeNet整体上介绍一下：

  • 对于一张大小为32×3232×32的输入图像
  • 经过第一层卷积层C1得到了6张大小为28×2828×28的feature_map
  • 经过下采样层S2，得到6张14×1414×14的feature_map
  • 经过第二层卷积层C3得到16张大小为10×1010×10的feature_map
  • 经过下采样层S4，得到16张5×55×5的feature_map
  • 经过第三层卷积层C5得到120张大小为1×11×1
最低0.47元/天 解锁文章

200万优质内容无限畅学
计算机视觉卷积神经网络（CNN）基础：从LeNet到ResNet
优快云博客专家，系统架构师，有合作、疑惑请私信博主。
04-11 14万+
计算机视觉卷积神经网络（CNN）基础：从LeNet到ResNet，在计算机视觉领域，卷积神经网络（Convolutional Neural Network，CNN）已然成为推动众多任务发展的核心力量。从早期简单的图像识别，到如今复杂的目标检测、语义分割、图像生成等任务，CNN 都展现出了卓越的性能。CNN 的发展历程见证了一系列经典模型的诞生，其中 LeNet 作为开山之作，为 CNN 的发展奠定了基础，而 ResNet 则通过创新性的设计，突破了传统神经网络的限制，使得网络能够构建得更深、性能更优。
CNN学习笔记之LeNet-5模型各层参数理解
Fireman1994的博客
11-28 4037
LeNet-5 模型是Yann LeCun 教授于1998年在论文《Gradient-based learning applied to document recognition》中提出的，它是第一个成功应用于数字识别问题的卷积神经网络。在 MNIST 数据集上，LeNet-5 模型可以达到大约99.2%的正确率。LeNet-5 模型共有7层，如下图所示： 第1层  卷积
卷积神经网络CNN与LeNet5详解(可训练参数量、计算量、连接数的计算+项目实战)
雷恩Layne
07-28 1万+
文章目录神经网络CNN卷积神经网络CNN的由来局部感受野共享权重池化CNN的结构光栅化LeNet5详解LeNet5-C1层LeNet5-S2层LeNet5-C3层LeNet5-S4层LeNet5-C5层LeNet5-F6层LeNet5-OUTPUT层计算公式LeNet5实战定义网络模型初始化模型参数训练测试准确率预测结果 神经网络 神经网络可以看成一个端到端的黑盒，中间是隐藏层(可以很深)，两边是输入与输出层，完整的神经网络学习过程如下： 定义网络结构（指定输入层、隐藏层、输出层的大小） 初始化模型参数
LeNet神经网络 Pytorch实现 计算模型参数量 模型保存和加载
b15040915的博客
04-07 1109
LeNet网络模型结构： 代码实现： import os import torch import torch.nn as nn import sys import time import d2lzh_pytorch as d2l os.environ["CUDA_VISIBLE_DEVICES"] = "0" device = torch.device('cuda' if torch.cuda...
LeNet论文阅读：LeNet结构以及参数个数计算
silent56_th的博客
12-04 1万+
本文是对Yann Lecun大神的经典论文“Gradient-Based Learning Applied to Document Recognition”的阅读笔记之一，主要介绍LeNet的结构以及参数个数的计算，上一篇博客介绍的CNN设计原理。作者才疏学浅，还望指教。LeNet-5 引用自原论文“Gradient-Based Learning Applied to Document Reco
CNN-LENET参数计算
qq_39691463的博客
07-28 840
cnn之LeNet5模型参数浅谈 鄙人最近一直在学习cnn，对于cnn基本流程，工作原理和简单的模型代码都比较熟练了，但是对于经典的cnn模型（如LeNet5,inception3）还是知之甚少。本文就先总结浅谈LeNet,下篇文章再论述Inception-3模型。话不多说，上正文 LeNet-5的背景 只需要记住LeNet模型是第一个应用于数字识别问题的卷积神经网络模型，在Mnist数据集上，正确率可达到99.2% lenet模型使用tanh和sigmoid来获得非线性输出，一般在池化层之后引入非线性操
LeNet5卷积神经网络训练参数（精度0.985）
06-06
LeNet5神经网络模型在手写数字识别中的识别率很高，通过训练得到0.985精度的参数，可以用于训练更高精度的初始参数。其中卷积核选择表(O：true， X: false)： { O, X, X, X, O, O, O, X, X, O, O, O, O, X, O, O, O, O, X, X, X, O, O, O, X, X, O, O, O, O, X, O, O, O, O, X, X, X, O, O, O, X, X, O, X, O, O, O, X, O, O, O, X, X, O, O, O, O, X, X, O, X, O, O, X, X, O, O, O, X, X, O, O, O, O, X, O, O, X, O, X, X, X, O, O, O, X, X, O, O, O, O, X, O, O, O };
Lenet5参数计算详解
weixin_40993979的博客
02-23 3118
LeNet5 输入层：32×32 C1卷积层： 卷积核大小：5×5 卷积核种类：6 输出特征图大小：28×28 计算公式：32-5+1=28 神经元数量：28×28×6 可训练参数：(5×5+1)×6 (每个滤波器5×5=25个unit参数和一个bias参数，一共6个滤波器) 连接数：(5×5+1）×6×28×28=122304 S2池化层(下采样层)： 输入：28×28 6个(C1中的特征图) 采样区域：2×2 采样方式：4个输.
神经网络之LeNet结构分析及参数详解
Genius_zz的博客
10-13 2万+
LeNet整体网络结构： LeNet一共有7层（不包括输入层） 输入层：     输入图像的大小为32*32，这要比mnist数据库中的最大字母（28*28）还大。     作用： 图像较大，这样做的目的是希望潜在的明显特征，比如笔画断续，角点等能够出现在最高层特征监测子感受野的中心。 其他层：     C1，C3，C5为卷积层，S2，S4为降采样层
【深度学习神经网络】--卷积神经网络 CNN与LeNet5详解(可训练参数量、计算量、连接数的计算+项目实战)
TU商的博客
10-25 2522
原文链接：https://blog.youkuaiyun.com/qq_37555071/article/details/107629340。
卷积神经网络（LeNet、AlexNet）每层的输出形状、参数数目数学计算，summary函数计算
最新发布
qq_52117903的博客
11-01 1176
在卷积神经网络中，Conv2d 层默认期望的输入形状是四维的 [batch_size, channels, height, width]。在 summary 函数中提供输入形状时，我们通常只提供特征部分 (channels, height, width)，而 summary 会自动为该输入增加批量维度。
LeNet -5网络详解（各个参数变化计算）
weixin_40722688的博客
05-31 2600
https://blog.youkuaiyun.com/saw009/article/details/80590245
LeNet-5卷积神经网络参数介绍
weixin_43631804的博客
03-03 1667
随着时间的推移，计算机视觉的魅力不断展现，包括各类模型我们都可以直接进行网上下载，但是往往我们就会忽略了模型的一些细节所在，正好在课程学习中老师提及这块内容，我觉得很有必要记录下来给大家借鉴学习，借此我将针对LeNet-5这个第一个卷积神经网络进行相关介绍。 【相关论文可查阅： Y. Lecun, L. Bottou, Y. Bengio and P. Haffner, "Gradient-based learning applied to document recognition," in Pro
LeNet-5各层参数变化情况详解
XXT2018的博客
05-14 5825
LeNet-5网络 LeNet-5共有7层（不包含输入），每层都包含可训练参数；每个层有多个Feature Map（特征图），每个FeatureMap通过一种卷积滤波器提取输入的一种特征，然后每个FeatureMap有多个神经元。 各层参数： 1、输入层 输入图像的尺寸统一归一化为3232。本层不算LeNet-5的网络结构，传统上，不将输入层视为网络层次结构之一。 2、C1层-卷积层 输入图片：3232 卷积核大小：55 通道数：6 输出featuremap大小：2828 （32-5+1=28） 输出神经
LeNet详解
Abraham Ben
11-19 4118
鉴于网上很多的LeNet讲解，但是有没有指明这时LeNet的简化版，本文特对Yann Lecun的原文进行一点讲解，原文地址:[Gradient-Based Learning Applied to Document Recognition](“http://yann.lecun.com/exdb/publis/pdf/lecun-98.pdf“)1. LeNet的网络结构 以下用Cx代表convo
如何计算神经网络参数的个数？
Henry的博客
11-28 7088
神经网络随着层数的加深，网络参数的个数会越来越多，小的网络有成千上万个参数，大的可以达到千万个网络参数。这里我们介绍一下如何计算神经网络参数的个数图像分类的神经网络，包含两个部分：特征提取层+ 分类层特征提取层就是将提取图像中的特征，这里的特征就是图像的细节，例如边缘、关键点等等。类似于人在识别物体的时候，往往不需要看清物体具体长什么样子，只需要观察大概的轮廓就知道这个物体是人还是树。那么这里人的轮廓或者树的轮廓就是特征，而我们是不需要知道这个人长得怎么样的。
caffe总结（五）经典网络模型（LeNet , AlexNet , VGG , GoogLeNet）简介
weixin_42535423的博客
12-21 977
caffe总结（五）一、LeNet二、AlexNetReLU数据扩充重叠池化局部归一化（Local Response Normalization，简称LRN）Dropout三、VGG四、GoogLeNet1、Inception V12、Inception V23、Inception V34、Inception V4 本文主要学习总结了关于经典网络模型（LeNet , AlexNet , VGG ,...
LeNet网络模型各层及参数解读
青天白鹭的博客
05-01 5787
最近开始学习深度学习，先从各种网络模型开始学起！一、先详细讲解最简单的LeNet网络（采用最常见的LeNet网络图形和BP算法的求解过程：） 1.LeNet-5含输入层共有8层，其中C1，C3，C5为卷积层，S2，S4为降采样层，F6为全连接层，还有一个输出层。每一个层都有多个Feature Map（每个Feature Map中含有多个神经元），输入通过一种过滤器作用，提取输入的一种特征，得到
CNN经典网络模型（一）：LeNet简介及代码实现（PyTorch超详细注释版）
热门推荐
qq_43307074的博客
10-01 2万+
CNN经典网络模型之一：LeNet，本文包含其简介及代码，在PyTorch中实现，进行超详细注释，适合新生小白阅读学习~
LeNet-5和cnn的区别
05-16
3. 参数量：LeNet-5的参数量相对较少，适用于较小的图像识别任务，而CNN模型可以处理更复杂的图像任务，需要更多的参数量和计算资源。 4. 应用场景：LeNet-5主要用于手写数字识别等小规模图像分类任务，而CNN模型...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值