CNN的权值共享-平移不变性-空间局部性

最新推荐文章于 2025-06-16 16:23:11 发布
最新推荐文章于 2025-06-16 16:23:11 发布
阅读量1.4k 收藏 3
点赞数
CC 4.0 BY-SA版权
文章标签： cnn 深度学习 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/python_plus/article/details/131011570
本文介绍了卷积神经网络(CNN)的三个关键特性：权值共享减少了模型复杂度，平移不变性使得CNN能识别图像的位置变化，空间局部性则利用了图像的局部像素相关性，通过局部感知和层次化信息整合来理解全局图像。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一、权值共享

  CNN的权值共享指的是：对于一张输入图像，用同一个卷积核去提取该图像的特征，该卷积核的值即可作为该卷积操作共享的权值。

在这里插入图片描述

二、平移不变性

  CNN的平移不变性指的是CNN对于同一张图及其平移后的图像，都能输出相同的结果。

三、空间局部性

  一般认为图像的空间联系是局部的像素联系比较密切，而距离较远的像素相关性较弱，因此，每个神经元没必要对全局图像进行感知，只要对局部进行感知，然后在更高层将局部的信息综合起来得到全局信息。一般认为图像的空间联系是局部的像素联系比较密切，而距离较远的像素相关性较弱，因此，每个神经元没必要对全局图像进行感知，只要对局部进行感知，然后在更高层将局部的信息综合起来得到全局信息。

卷积神经网络CNN---权值共享
m0_37957160的博客
03-12 1万+
1、权值共享的由来： 权值共享这个词最开始其实是由LeNet5模型提出来，在1998年，LeCun发布了LeNet网络架构，就是下面这个： 虽然现在大多数的说法是2012年的AlexNet网络是深度学习的开端，但是CNN的开端最早其实可以追溯到LeNet5模型，它的几个特性在2010年初的卷积神经网络研究中被广泛的使用——其中一个就是权值共享。 2、什么是权值共享？ 所谓权值共享就是说给定一张输入图片，用一个卷积核来卷积这张图，卷积核里的值叫做权重，这张图的每个位置是被同一个卷积核扫的，即卷积的
CNN 权值共享
Jiashilin
07-29 1348
权值共享 在下图中，如果不使用权值共享，则特征图由10个32*32*1的特征图组成，每个特征图上有1024个神经元，每个神经元对应输入图像上的一块5*5*3的区域，所以一个神经元和输入图像的这块区域有75个连接，即75个权值参数，则共有75*1024*10=768000个权值参数，这对于参数的调整和传递非常不利，因此卷积神经网络引入权值共享原则，一个特征图上每个神经元对应的75个权值参数被每个...
卷积神经网络（CNN）图像识别基础教程
最新发布
牛奶夹心巧克力
06-16 1098
卷积神经网络 (CNN) I：图像识别基础 - 核心思想（局部连接、权值共享）、卷积层、池化层、结构示例（LeNet）。学习资源： CNN可视化（如CNN Explainer），经典论文（LeNet）。
CNN之权值共享
qq_52302919的博客
03-11 2439
上图所示：若我们有1000x1000像素的图像（一个输入张量），有1百万个隐藏层的神经元（一个像素即为一个神经元，也就是单次卷积对应的结果数值如下图的动画，一次卷积为一个神经元），如果全连接（即每个隐层神经元都要与图像的每一个像素点进行连接），就有1000∗1000∗1000000=10121000*1000*1000000=10^{12}1000∗1000∗1000000=1012个连接，也就是101210^{12}1012个权值参数。但是图像的空间联系是局部的，就像人是通过一个局部的感受野去感受外界图.
CNN---权值共享
william_hehe的博客
12-24 6876
1.定义：         权值共享指由单个参数(权重)控制多个连接，亦可解释为在连接强度之间施加相等的约束。通过权值共享，模型可以获取非常小的计算成本。 2.直观理解： 如上图所示，设Image为一个5*5的矩阵A，卷积核为一个3*3的矩阵B，输出特征图为3*3的矩阵C，那么有： C11= A11*B11+ A12*B12+A13*B13+…+A31*B31+A32*B32+A33*...
CNN的权值共享
weixin_43870400的博客
03-03 1120
以下为个人理解，不到之处，还请指正！ 例如331的卷积核有9个参数，在对整个图进行卷积时，卷积核上的参数不变，9个参数被共享。卷积之后的特征图拥有的权值个数也为9. 权重共享能够减少参数，加快训练速度 ...
cnn中的权值共享
LittleStudent12的博客
06-22 1000
cnn中权值共享理解第一步，针对一个神经元，一幅640*360图像，一个神经元要对应640*360个像素点，即一个神经元对应全局图像，全连接的话一个神经元就有640*360个参数；第二步，然而，图像的空间联系是局部的，就像人是通过一个局部的感受野去感受外界图像一样，每一个神经元都不需要对全局图像做感受，每个神经元只感受局部的图像区域，然后在更高层，将这些不同局部的神经元综合起来就可以得到全局信息。...
CNN平移不变性
03-08
上述代码展示了如何构建一个简单的卷积网络结构，其中`nn.Conv2d()`函数创建了一个具有固定尺寸内核的二维卷积层，它将在整个输入图像中滑动计算特征图谱，体现了前述提到的共享权值和平移不变性的核心理念。
卷积的平移不变性公式,卷积减少参数的方法
ynca67269的博客
08-21 731
上世纪60年代，Hubel等人通过对猫视觉皮层细胞的研究，提出了感受野这个概念，到80年代，Fukushima在感受野概念的基础之上提出了神经认知机的概念，可以看作是卷积神经网络的第一个实现网络，神经认知机将一个视觉模式分解成许多子模式（特征），然后进入分层递阶式相连的特征平面进行处理，它试图将视觉系统模型化，使其能够在即使物体有位移或轻微变形的时候，也能完成识别。卷积神经网络(ConvolutionalNeuralNetworks,CNN)是多层感知机(MLP)的变种。
目标检测定位与分割论文阅读心得总结：FCN U-Net R-CNN FR-CNN Faster R-CNN Mask R-CNN
小小码农的博客
01-04 9933
目前，基于区域的方法主要分为两类：任务解耦和的RCNN[1]和任务高度耦合的FCN[2]。 RCNN是将任务分解，目标检测、定位与分割依次逐一进行，前者决定后者的输入，因此称为任务解耦和。而FCN则将三类任务在一个网络中同时进行，不分先后，任务高度耦合。FCN已在医学图像领域有很多表现优异的衍生网络，如U-NET[12]等，而RCNN则应用较少。
能够分析全连接层的局限，分析利弊； 理解卷积神经网络理论提出的依据，即空间不变性
10-09
同时，卷积操作能够在不同位置提取到相同特征，表现出平移不变性。而池化操作则有助于减少数据的空间尺寸，提高模型的抽象能力，并增强其对小尺寸变换的鲁棒性。 空间不变性是CNN在图像处理中表现出色的重要原因。...
2.3.1.卷积神经网络（Convolutional Neural Network, CNN）是一种专为处理网格状数据（如图像、视频）设计的深度学习模型，其核心思想是通过局部感知、权值共享和层次化特征提取来自动学习数据的抽象表示。 2.3.2.CNN的典型结构包含以下关键层： (1)卷积层：通过滑动滤波器（卷积核）在输入数据上提取局部特征（如边缘、纹理），输出特征图（Feature Map）。每个核学习不同特征，并通过非线性激活函数（如ReLU）增强表达能力。 (2)池化层（如最大池化）：降低特征图的空间尺寸，减少计算量并增强平移不变性。 (3)全连接层：将高层特征展平后进行分类或回归，通常出现在网络末端。 2.3.3.CNN的优势在于： (1)参数效率：卷积核的局部连接和权值共享大幅减少参数量，避免全连接网络的过拟合险。 (2)层次化特征：浅层学习低级特征（如线条），深层组合为高级语义（如物体部件）。 (3)端到端学习：从原始像素到最终任务（如分类）的自动化流程。 典型应用包括图像分类（如ResNet）、目标检测（如YOLO）、语义分割等。改进方向如注意力机制（如Squeeze-and-Excitation模块）和轻量化设计（如MobileNet）进一步推动了CNN的实用性和泛化能力。根据上述内容做一个思维导图
03-28
此外，CNN的特点如层次化特征提取、参数共享、平移不变性等也是重点。 然后，考虑如何将这些内容结构化。思维导图通常从中心主题（CNN）出发，分支包括结构组成、核心特点、应用场景、优缺点、相关技术比较等。用户...
CNN中的权值共享理解
热门推荐
Bing's Blog
11-08 2万+
基本名词对应：Feature Map : 特征图，特征映射 Weight：权值，权重权值共享CNN是权重共享，减少了参数的数量。这个有必要再对比研究一下。 一般神经网络层与层之间的连接是，每个神经元与上一层的全部神经元相连，这些连接线的权重独立于其他的神经元，所以假设上一层是m个神经元，当前层是n个神经元，那么共有m×nm \times n个连接，也就有m×nm \times n个权重。权重矩阵
如何理解CNN中的权值共享
Able的博客
12-15 1420
记录一下深度学习中CNN中的权值共享 首先，卷积网络的核心思想是将：局部感受野、权值共享（或者权值复制）以及时间或空间亚采样这三种结构思想结合起来获得了某种程度的位移、尺度、形变不变性。 通俗理解，所谓的权值共享\color{black}{权值共享}权值共享就是说，给一张输入图像，用一个filter去扫面这种图，filter里面的数就叫权重，这张图每个位置是被同样的filter扫的，所以权重是一样...
理解CNN中的权重共享
m0_59440545的博客
07-30 490
所以可以让输出中的每个元素只关注输入中的一个小区域（比如5*5），那么输出中的每个元素就只有5*5=25个参数，只和这一小块区域有关。此时，输出中的每个元素都有自己独立的25个参数，通过这些参数关联到输入中的一个个5*5的局部区域。在FC中的每相邻两层之间，对于输出中的任一元素，它都和输入中的所有元素有关。假设输入为M维，输出为N维，那么输出中的每个元素都有M个参数，和输入中的M个元素一一对应。比如filter是5*5，那么图像中每个5*5的区域都可以看成一个局部感知域。个人理解，如有不足请多多包涵。
关于CNN、RNN中的权值共享
MaloFleur
07-02 1万+
CNN 卷积相对于全连接卷积神经网络的优势之一，就在于其权值共享大大减少了参数量 借用全连接网络到卷积神经网络逐步推导（组图无公式）中的一张图： 由于全连接层只能接收一维向量，因此对于输入为M x N的图像，需要先展平为一维的(MxN) x 1 因此若得到的特征图feature map大小为P x Q（对应的一维向量为(PxQ) x 1），则map中每个元素需要MxN个权重，分别于输入图对应...
CNN中每一层的权重是一样的么？
哇咔咔哇咔的博客
11-10 790
CNN中每一层的权重是一样的么？
卷积神经网络（cnn）参数（权重）共享
lijiwu666的博客
07-22 7746
在学习cnn中一直被这个参数共享所迷惑，经过查阅资料询问同学才明白原来这么简单，可能是我当时脑子锈到了 卷积核在进行计算的时候，如上图，滤波器中的参数是固定不变的，按照设定好的步数移动扫面完全部位置，参数（权重）共享就是说被扫描的像素全都共享这个滤波器中的权重进行计算。说白了就是所有被扫描的像素每一次都是用这个滤波器进行计算。就是这么简单的问题让我想了很久，我淦。 ...
理解卷积神经网络中的权值共享
lovely_yoshino的博客
07-04 1万+
简单从共享的角度来说：权重共享即filter的值共享 卷积神经网络两大核心思想： 1.网络局部连接（Local Connectivity） 2.卷积核参数共享（Parameter Sharing） 两者的一个关键作用就是减少参数数量，使运算变得简洁、高效，能够在超大规模数据集上运算。 下面来用最直观的图示，来阐明两者的作用。 CNN的正确打开方式，如下所示 概括为：一个 的卷积核在图像上扫描，进行特征提取。通常， ， 的卷积核较为常用，如果channels为 [公式] 的话（32,64是较为常用的通道
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

晓shuo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值