kernel size 1*1 的卷积，有什么用处？

最新推荐文章于 2025-08-01 13:09:09 发布
原创 最新推荐文章于 2025-08-01 13:09:09 发布 · 2k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#python #深度学习

本文探讨了1x1卷积核在深度学习中的应用，重点介绍了它在降维和引入非线性方面的功能。1x1卷积核可以在不损失空间分辨率的情况下减少输入特征图的数量，从而加快计算速度并减少参数数量。此外，通过添加非线性激活函数，进一步增强了网络的表达能力。

11卷积过滤器 和正常的过滤器一样，唯一不同的是它的大小是11，没有考虑在前一层局部信息之间的关系。最早出现在 Network In Network的论文中 ，使用11卷积是想加深加宽网络结构 ，在Inception网络（ Going Deeper with Convolutions ）中用来降维.


由于33卷积或者55卷积在几百个filter的卷积层上做卷积操作时相当耗时，所以11卷积在33卷积或者55卷积计算之前先降低维度。
那么，11卷积的主要作用有以下几点：1、降维（ dimension reductionality ）。比如，一张500 * 500且厚度depth为100 的图片在20个filter上做11的卷积，那么结果的大小为50050020。
2、加入非线性。卷积层之后经过激励层，1*1的卷积在前一层的学习表示上添加了非线性激励（ non-linear activation ），提升网络的表达能力；

GhostintheCode
关注
Kernel 1x1 卷积
MyArrow的专栏
03-09 1140
Kernel 1x1 卷积1. 1x1卷积与3x3卷积的直观对比2. 1x1卷积与全连接的比较3. 1x1卷积的功能 1. 1x1卷积与3x3卷积的直观对比 使用Kernel大小为3x3的卷积 使用Kernel大小为1x1的卷积 2. 1x1卷积与全连接的比较 3. 1x1卷积的功能 ...
PyTorch中的卷积神经网络
zy的博客
03-19 1433
1 输入、输出和卷积层的维度 import torch in_channels,out_channels=5,10 width,height=100,100 kernel_size=3 batch_size=1 input=torch.randn(batch_size,in_channels,width,height) conv_layer=torch.nn.Conv2d(in_channels,out_channels,kernel_size=kernel_size) output=co..
kernel_size为1的卷积核与全连接层的关系
todoooooo的博客
06-03 7216
看到有文章说kernel_size为1的卷积相当于全连接层的运算，这里简单地使用1维的卷积核证明一下 输入的数据用X∈R(d,n)X \in \mathbb{R}^{(d,n)}X∈R(d,n)表示，共有nnn个数据，每个数据是ddd维。 全连接层用L∈R(d,d)L \in \mathbb{R}^{(d,d)}L∈R(d,d)表示，一维的卷积用C∈R(d,d)C \in \mathbb{R}^{(d,d)}C∈R(d,d)表示，即卷积的in_channel=d, out_channel=d，CCC的行向量
谈谈1×1的卷积核
skywuuu的博客
12-04 1554
谈谈1×1卷积核的作用 最近在看yolo3，发现对于1×1的卷积核的理解有些遗忘，借此强化一下记忆。 最早我对此有些疑惑，1×1卷积核不会改变高（Height）和宽（Width）（在stride和padding等其他参数为默认状态时）， 但**通道数（Channel）**可以随意变化，例如在pytorch中： 情况1，不变，加入了非线性的因素 nn. Conv2d(256, 256, kernel_size=1) 情况2，通道数增加（升维） nn. Conv2d(256, 512, kernel_size
PyTorch实现MLP的两种方法，以及nn.Conv1d, kernel_size=1和nn.Linear的区别
l1076604169的博客
07-07 2万+
PyTorch实现MLP的两种方法，以及nn.Conv1d, kernel_size=1和nn.Linear的区别MLP（Multi-layer perceptron）实现MLP结构方法1:nn.Linear方法2:nn.Conv1d & kernel_size=1nn.Conv1d, kernel_size=1与nn.Linear不同 MLP（Multi-layer perceptron）实现 最近在看PointNet论文，其主要思想为利用MLP结构学习点云特征，并进行全局池化（构造一个对称函数，
torch.nn.Conv1d(kernel_size=1, stride=1)与nn.Linear()对比
weixin_44935060的博客
05-06 3089
torch.nn.conv1d() 与torch.nn.Linear()
1*1的卷积核
03-24
conv_1x1 = nn.Conv2d(in_channels=3, out_channels=16, kernel_size=1) output_tensor = conv_1x1(input_tensor) # Assuming input_tensor has shape [1, 3, 640, 640] print(output_tensor.shape) # Output will ...
不同kernel_size具体卷积核是什么样的
最新发布
11-14
**1×1 卷积核** 形态： $$ \begin{bmatrix} w \end{bmatrix} $$ - 单点权重 - **作用**：通道混合与降维（不改变空间尺寸） - 示例代码： ```python nn.Conv2d(in_channels=64, out_channels=32, kernel_size=1) `...
26、1×1卷积与残差连接：深度学习中的高效信息处理
m2n3o4p5的博客
08-01 52
本文深入探讨了深度学习中的1×1卷积和残差连接技术，详细解析了它们的原理、实现方式以及在信息处理中的高效性。1×1卷积通过改变通道数和实现通道间信息共享，为模型设计提供了灵活性和计算效率；而残差连接则通过跳过连接和梯度传播优化，显著提升了模型的收敛速度和准确率。文章还结合代码实例，展示了如何在图像分类任务中综合应用这两种技术，并提供了优化建议和应用场景，为读者理解和使用这些技术提供了全面的指导。
SCAM模块的第二个通道和第三个通道都是1*1卷积，他们怎么实现功能的差别
06-24
1. **卷积操作的用途** - 第二个通道：1×1卷积用于生成值特征图，直接参与最终的特征融合。 - 第三个通道：1×1卷积用于简化查询和键，间接通过矩阵乘法生成空间上下文信息。 2. **计算复杂度** - 第二个通道：...
Conv2d(256, 128, kernel_size=(1, 1), stride=(1, 1))
03-25
例如，kernel_size=1x1通常用于通道调整或降维，这在引用[1]和引用[3]中有相关应用，如降维或使用1x1卷积改变通道数。 接下来，需要说明参数如何影响输出的尺寸。根据卷积的输出尺寸公式，当输入是HxW，kernel_size...
VGG-Net论文学习笔记（含代码）
RuixuanZhang的博客
02-28 1117
文章目录Very deeeo convolutional networks for large-scale image recognition历史意义摘要网络架构网络基础网络衍生网络特点1、堆叠kernel_size=3的kernel2、提出经典kernel_size=1的卷积代码复现 Very deeeo convolutional networks for large-scale image recognition 历史意义 1、开启组小卷积时代（kernel_szie=3） 2、作为后续分割网络架构的
【深度学习】1*1卷积
littlemichelle
01-29 9931
卷积核的作用在于特征的抽取，越是大的卷积核尺寸（kernal_size）就意味着更大的感受野，当然随之而来的是更多的参数。图像空域内具有局部相关性，卷积的过程是对局部相关性的一种抽取。 1*1卷积的作用? / 如何理解卷积神经网络中的1*1卷积? 1x1 卷积可以压缩信道数（channel--厚度）即减少特征的维度。池化可以改变图片的宽和高。 1x1卷积给神经网络增加非线性，从而减少...
【卷积神经网络入门】【1】卷积类型
gdfsy123的博客
03-16 888
1.Normal Convolution 一般kernel_size=3，padding取1，这样feature map取决于stride 参数量：CinCoutK*K torch.nn.Conv2d(in_channels,out_channels,kernel_size,stride=1,padding=0,dilation=1,groups=1,bias=True) 2.Pointwise Convolution kernel_size=1，无法提取空间信息，但可以实现全连接的功能 .
nn.Conv1d当kernel-size=1时的应用
apodx的博客
12-03 1801
Conv1d和Conv2d的区别
一维卷积计算方式
qq_41982466的博客
03-09 7144
一维卷积计算方式 以keras构建的模型为例 模型输入 max_len 为50的文本，词嵌入维度为 128，64 个卷积核，kernel_size为1。 代码以及模型每层输出shape如下： 计算方式： 对于每个文本，Embedding层将其转换为 (50, 128)形状的向量矩阵。 因为卷积核大小kernel_size = 1，因此卷积核的形状为(1, 128)。 每个卷积核分别与 50 个 shape为(1, 128) 的向量做点积运算，得到50个值。 64个卷积核分别进行点积计算，最后输出 sha
深度学习中，卷积运算为何能对图像矩阵进行升维降维？
厚积薄发的博客
08-15 1602
最近有小伙伴表示不理解1*1卷积为何能对输入矩阵进行升维降维，所以我这里专门来讲一下。当然不止1*1卷积，其实所有不同kernel_size的卷积都能实现降维和升维。现在很多深度学习的第三方库，比如Pytorch、tensorflow帮我们完成了很多基础运算，但作为AI研究者，还是应该知道卷积具体在做什么。在这里，我默认读者知道数学上的卷积运算和互相关运算(cross-correlation)，深度学习中，每一个卷积核实际上进行的是数学上的互相关运算。
nn.Conv1d, kernel_size=1和nn.Linear的区别
lin的博客
01-07 971
https://blog.youkuaiyun.com/l1076604169/article/details/107170146/
卷积:kernel size/padding/stride
热门推荐
Coding
08-30 2万+
卷积的原理 卷积尺寸变化 输出尺寸=(输入尺寸-filter尺寸+2*padding)/stride+1 宽和高都是这么计算的； 输入图片大小为200×200，依次经过一层卷积（kernel size 5×5，padding 1，stride 2），pooling（kernel size 3×3，padding 0，stride 1），又一层卷积（kernel size 3×3，padding 1...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值