CNN: 1x1卷积层的精妙之处

最新推荐文章于 2025-04-21 09:22:00 发布
最新推荐文章于 2025-04-21 09:22:00 发布
阅读量1.2k 收藏 4
点赞数
CC 4.0 BY-SA版权
分类专栏： deep learning 文章标签： CNN 1x1卷积
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/cedi9117/article/details/83654093
1x1卷积在神经网络中主要用来改变矩阵维度和增加非线性。通过1x1卷积，可以有效降低计算量，实现特征图的降维或升维，同时保持矩阵性质不变，构建出各种结构的神经网络。在ResNet中的bottleneck结构中，1x1卷积用于创建从低维到高维再到低维的空间过渡，增加了网络的非线性程度，降低了计算复杂度，使得深层网络能更精确地逼近目标模型。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

现在各种神经网络都会用到1x1 conv，它到底起到什么作用呢？要回答这个问题，先从最经典的Inception模型说起，Figure 1是Inception-ResNet-v2的block架构图。

Figure 1: https://arxiv.org/pdf/1602.07261.pdf

作用一：改变矩阵维度

block中每个sublayer的第一层都1x1 conv，它在这里的作用之一是降维，减少运算量–feature map channel数越少，卷积操作需要的计算量越小。但就像图像压缩一样，压缩率越大丢帧越多，1x1 conv是如果做到在质量与速度的平衡的呢？

Figure 2

Figure 2中间图形就是1x1卷积核，左边的矩阵是input，而右边的正方形代表feature map中的一个grid，或一个pixel，它是1x1卷积核其中一个channel：(1x1x1)，与input矩阵对应pixel位置的pixel-wise向量：(1x1x32)的点积的结果。当input矩阵与1x1卷积核完成所有pixel位置（4x4）的点积计算后，会

最低0.47元/天 解锁文章

200万优质内容无限畅学
YOLOv8核心组件深度解析：C2f模块终极教程
FJN110的博客
06-23 145
YOLOv8的核心组件C2f模块是其目标检测性能的关键。作为C3模块的改进版本，C2f通过更丰富的分支连接和特征融合策略，实现了更高效的梯度流和更强的特征表达能力。该模块处理数据时：首先通过1x1卷积调整通道数；然后将特征分两支，一支直接保留，另一支经过多个Bottleneck模块深度处理；最终将所有特征融合。这种设计既保留了浅层信息，又提取了深层特征，为YOLOv8的精准检测提供了有力支撑。理解C2f模块对优化和部署YOLOv8至关重要。
Bottleneck（瓶颈残差块）代码详解
最新发布
浩瀚之水的专栏
06-15 625
Bottleneck​ 是 ResNet 中用于深层网络的核心模块，设计目标是平衡计算量和模型表达能力，是 ResNet-50/101/152 等深度模型的基础模块。
ResNet解读和1×1卷积介绍
m0_63520910的博客
07-20 3816
深度卷积网络好在哪里？-----它可以加很多层，把网络变得很深，不同程度的层可以得到不同等级的特征。 作者提出一个问题--一个网络只是简单的堆叠就好了嘛？——不是，当网络变得很深的时候，梯度会出现爆炸或者消失。一个解决方法，初始化时设置一个合适的权重，不要太大也不要太小。又或者在中间加入normalization（包括BN）,可以使得校验每个层之间的那些输出和它梯度的那些均值和方差。上述两个方法可以让网络收敛，但是网络变深后，性能会变差（不是过拟合造成的，因为训练误差和测试误差都会变得很差），所以现在网络虽
1*1卷积层
weixin_33709364的博客
11-29 255
from mxnet import gluon,init from mxnet import autograd,nd from mxnet.gluon import nn,loss as gloss from mxnet.gluon import data as gdata # 二维卷积层 def corr2d(X,K): h, w = K.shape ...
1 * 1卷积层
sujixian1995的博客
09-18 1700
对于1 * 1卷积层自己的一点理解 1 *1 卷积层最早是2014年ICLR的一篇名为《Network In Network》的论文提出的从下面图片可以看成 1 * 1卷积层其实就相当于全连接层也就是相当于输入乘以权重。它为改变输入的大小， 1*1 卷积的作用 一、 实现特征通道的升维和降维 　　通过控制卷积核的数量达到通道数大小的放缩。而池化层只能改变高度和宽度，无法改变通道数。 二、 增加非线性 　　1×1卷积核的卷积过程相当于全连接层的计算过程，并且还加入了非线性激活函数，从而可以增加网络的非线性，使
图像分割中CNN模型的精妙应用及优化方案
通过对CNN技术的概述和原理解析，读者将深入了解CNN中的卷积层、池化层和全连接层的作用机制。此外，将阐述CNN在图像分割中的意义和基本原理，为后续章节的学习打下坚实基础。 # 2.1 CNN简介和原理 卷积神经网络...
YOLOv11 改进策略 | TPAMI-2024 Conv2Former：利用卷积调制和大核卷积简化自注意力机制
走向CTO的路上...
04-21 968
近年来，Transformer 模型凭借其强大的全局建模能力在计算机视觉领域取得了显著进展，挑战了 CNN 的主导地位。然而，Transformer 模型（特别是其标准自注意力机制）计算复杂度高，且缺乏 CNN 原生的归纳偏置（如局部性和平移不变性）。为了结合 CNN 的效率和归纳偏置与 Transformer 的全局建模能力，研究人员提出了各种混合架构。Conv2Former，作为一种假设的发表在 TPAMI 2024 上的前沿模块，旨在通过巧妙地利用卷积调制操作和大核卷积来简化或模拟。
1*1卷积层的简单理解
jackzhang11的博客
04-29 5752
在很多模型中都会有一些1∗11*11∗1的卷积层，打眼一看感觉这些layer很鸡肋，不知道放在模型里能起到什么作用。但深入理解一下就能发现，1*1的卷积是非常有用的，可以很灵活地控制特征图的深度，并能起到减少参数量的作用。 本文就基于个人粗浅的理解，简单讨论一下1*1卷积的作用。 1. 升维降维，实现跨通道的信息整合 feature map和1*1的卷积核做卷积时，只需要考虑当前像素即可，并不需要...
浅谈1×1卷积层
午夜的行人
12-25 649
1x1卷积层是一种特殊的卷积层，其卷积核大小为1x1。尽管看起来很简单，但1x1卷积层在神经网络，尤其是卷积神经网络（CNN）中，具有多种重要作用：改变通道数：增加非线性：信息整合：计算效率：参数量减少：卷积核大小：计算复杂度：空间信息捕捉：高效的计算和参数量：灵活的通道数调整：1x1卷积层广泛应用于各种深度学习模型中，包括但不限于：下面是一个使用1x1卷积层的简单示例，演示其在改变通道数方面的作用： 代码解释 定义1x1卷积层模块：创建简单的神经网络：创建网络实例并打印模型结构：示例输入：前向传播：通
1X1卷积
weixin_53297048的博客
06-30 2175
在学习1x1卷积之前，我们先对多通道卷积进行简单的回顾，这样更方便对1x1卷积的理解多通道卷积是将各通道的卷积后对应位置累加求和，简单的说就是。
【深度学习】1*1卷积
littlemichelle
01-29 9859
卷积核的作用在于特征的抽取，越是大的卷积核尺寸（kernal_size）就意味着更大的感受野，当然随之而来的是更多的参数。图像空域内具有局部相关性，卷积的过程是对局部相关性的一种抽取。 1*1卷积的作用? / 如何理解卷积神经网络中的1*1卷积? 1x1 卷积可以压缩信道数（channel--厚度）即减少特征的维度。池化可以改变图片的宽和高。 1x1卷积给神经网络增加非线性，从而减少...
1x1卷积作用
qq_41037856的博客
08-05 1109
1x1卷积是一种卷积核大小为1x1的卷积操作。在输入特征图的每个位置，1x1卷积仅对该位置的通道进行线性组合，而不影响空间维度。特征降维是指通过减少特征图的通道数来降低其维度。这种操作可以有效减少参数数量和计算复杂度，避免过拟合，提高计算效率。特征升维是指通过增加特征图的通道数来提升其维度。这种操作可以增强特征表达能力，增加模型的表示能力，捕捉更丰富的特征信息。
1×1卷积层的意义及inception层初介绍
qq_51659249的博客
03-13 986
Inception就是将多个卷积或池化操作放在一起组装成一个网络模块，它是一种基于多尺度卷积的网络结构，旨在解决传统CNN在处理不同大小的输入图像时存在的问题。主要特点：使用了多个不同尺度的卷积核来提取不同尺度的特征。这些卷积核可以并行地应用于输入图像，然后将它们的输出连接在一起，形成一个多通道的特征图。通过这种方式，Inception可以有效地处理不同大小的输入图像，并提取更丰富和多样化的特征。使用了1x1的卷积核来进行特征图的降维和升维。这些1x1的卷积核可以降低特征图的维度。
【深度学习】1×1卷积的作用与原理详解
欢迎来到我的优快云个人博客主页！
03-02 1530
本文详细介绍了深度学习中1×1卷积的工作原理及其重要应用。1×1卷积在卷积神经网络架构中经常使用，本文通过公式推导说明了1×1卷积如何在保持空间维度不变的情况下对通道维度进行操作，实现对通道数的调整与特征融合。
CNN 常用网络结构解析 && 1x1 卷积运算 示意图
AI小作坊 的博客
05-18 2263
AlexNet 网络结构： VGG ： conv3x3、conv5x5、conv7x7、conv9x9和conv11x11，在224x224x3的RGB图上（设置pad=1，stride=4，output_channel=96）做卷积，卷积层的参数规模和得到的feature map的大小如下： 卷积神经网络基本计算原理 http://m.elecfans.com/article/691826....
深度学习《CNN架构续篇 - 1乘1卷积》
qq_29367075的博客
10-03 723
这里专门花一个小篇幅介绍下1*1卷积核。承上启下，为后面的内容做学习铺垫。 一：11 卷积的操作实践 卷积核一般有11，33，55的卷积核，今天来说说这个1*1卷积的使用，假如，步长Stride=1，Padding=1，那么根据之前的计算公式，输出图像就是和输入图像的大小（长度和宽度）是完全一样的了，而且，因为1×1卷积核只有一个参数，那么实际上也就是给元乳香乘以了某个系数，完全的线性变化（也可以理解成一个数字和一个矩阵的数乘运算的过程，多个通道的情况就是多个数乘的结果累加而已）。 比如下面的计算过程：
1x1
dianqichenanqi的博客
04-14 471
Option Base 1 Private Sub Command1_Click()     Me.Font.Size = 70     Dim n1() As Byte, n1len As Long     Dim n2() As Byte, n2len As Long     Dim yushu As Byte     Dim shang As Byte         Di
卷积与转置卷积层详解：CNN中的深度理解
"本文深入探讨了卷积神经网络（CNN）中的卷积层与转置卷积层的关系，以及它们在处理图像特征提取中的作用。文章首先解释了卷积层与全连接层的区别，强调了卷积层在减少参数数量和学习局部特征方面的优势。接着，介绍...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值