Without pooling

最新推荐文章于 2025-10-08 22:31:19 发布
原创 最新推荐文章于 2025-10-08 22:31:19 发布 · 400 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文探讨了一种新的网络结构设计思路，即利用特定的卷积层来替代传统的池化层。研究发现，这种替换不仅能够保持网络的有效性，甚至在某些情况下还能提升模型的表现。文中提出，传统池化层的主要作用在于减少空间维度，这可以通过采用步长为2、卷积核大小为3的卷积层来实现。

此文提出了 使用步长为2 卷积核为3的卷积层来代替pooling层 这里文章关于pooling层的作用提出了3个解释：1，pooling的范数使得CNN中的表达更加具有不变性。2，减小空间维度 使得上层的层能够覆盖到更大的input部分。 3，基于特征的pooling操作相比于会将特征混合在一起的卷积层能够更简单的优化。 文章认为只有第二点才是pooling层的主要作用 这样就完全可以被特殊的卷积层替代。 这里文章对于图像分类中的典型网络 使用卷积层替代pooling的方法 来进行实验 发现使用卷积层代替后 效果反而有所提升 验证了文章的想法。

计算机视觉 | 面试题：07、Pooling层的作用以及如何进行反向传播
Mrrunsen的博客
09-08 2809
问题 CNN网络在反向传播中需要逐层向前求梯度，然而pooling层没有可学习的参数，那它是如何进行反向传播的呢？ 此外，CNN中为什么要加pooling层，它的作用是什么？ Pooling层 CNN一般采用average pooling或max pooling来进行池化操作，而池化操作会改变feature map的大小，例如大小为64×64的feature map使用2×2的步长池化后，feature map大小为32×32。因此，这会使得在反向传播中，pooling层的梯度无法与前一层相对应。 那怎么解
pooling作用
Bruce_0712的博客
05-18 614
作者：言有三 链接：https://www.zhihu.com/question/36686900/answer/476117375 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 (1) 增大感受野 所谓感受野，即一个像素对应回原图的区域大小，假如没有pooling，一个3*3，步长为1的卷积，那么输出的一个像素的感受野就是3*3的区域，再加一个stride=1的3*3卷积，则感受野为5*5，我们看左上角像素的传播就明白了。 依次，再多一个卷积，则为7*7..
3.3 CNN卷积神经网络基础知识-Pooling池化(百度架构师手把手带你零基础实践深度学习原版笔记系列)
aiAI
10-14 679
3.3CNN卷积神经网络基础知识-Pooling池化(百度架构师手把手带你零基础实践深度学习原版笔记系列) 池化（Pooling） 池化是使用某一位置的相邻输出的总体统计特征代替网络在该位置的输出，其好处是当输入数据做出少量平移时，经过池化函数后的大多数输出还能保持不变。比如：当识别一张图像是否是人脸时，我们需要知道人脸左边有一只眼睛，右边也有一只眼睛，而不需要知道眼睛的精确位置，这时候通过池化某一片区域的像素点来得到总体统计特征会显得很有用。由于池化之后特征图会变得更小，如果后面连接的是全连接..
卷积层（Convolutional Layer）学习笔记
最新发布
StarPrayers.的博客
10-08 1372
摘要：卷积层是CNN的核心组件，通过卷积核在输入数据上滑动提取局部特征，生成特征图。3×3卷积核是最常用尺寸，能平衡特征提取能力和计算效率。卷积层具有局部连接、权值共享和位移不变性等优势，大幅减少参数量的同时保持强大特征提取能力。PyTorch中的nn.Conv2d模块实现二维卷积操作，支持调整通道数、步长和填充等参数。卷积层广泛应用于图像分类、目标检测等领域，并衍生出转置卷积、深度可分离卷积等变体。可视化代码展示了3×3卷积核处理5×5输入的完整过程。
Pooling(池化)的好处以及CNN优缺点
忘川的博客
08-21 7024
CNNs可以自动从(通常是大规模)数据中学习特征，并把结果向同类型未知数据泛化。 选用卷积的原因: 局部感知: 简单来说，卷积核的大小一般小于输入图像的大小（如果等于则是全连接），因此卷积提取出的特征会更多地关注局部 —— 这很符合日常我们接触到的图像处理。而每个神经元其实没有必要对全局图像进行感知，只需要对局部进行感知， 然后在更高层将局部的信息综合起来就得到了全局的信息。 参数共享: 参数共享最大的作用莫过于很大限度地减少.
利用pooling layer替代最后的FC layer，减少模型参数
木头VS星星
06-20 3578
    在图像分类任务中，模型经过最后CNN层后的尺寸为[bath_size, img_width, img_height, channels]，通常的做法是：接一个flatten layer，将尺寸变为[batch_size, w * h * channels]，再至少接一个FC layer，这样做的最大问题是：模型参数多，且容易过拟合。    为此，研究者提出了利用pooling layer来...
卷积神经网络中的pooling层能否用相同stride的convolution层替代？
boy854456187的博客
03-14 1225
项目场景： 卷积神经网络中的pooling层能否用相同stride的convolution层替代？ 问题描述： 根据Inception_v3 general design principles，作者在其论文中有这样的描述：concat一个stride为2的conv层和stride为2的pooling层可以avoid representation bottlenecks，那么pooling层是否可以完全由conv层替代，因为conv层也可以通过增大stride来缩小feature map的尺寸，增大感受野。
Hybrid Pooling
03-04
The primary benefit lies in balancing between preserving sharp edges via max-pooling alongside maintaining smoother transitions offered by averaging approaches without significantly increasing ...
639-Multi-scale Orderless Pooling of Deep Convolutional Activation Features.pdf
03-29
power, this paper presents a simple but effective scheme called multiscale orderless pooling (MOP-CNN). This scheme extracts CNN activations for local patches at multiple scale levels, performs ...
Wavelet Pooling
02-27
Using this custom layer allows integration directly into neural network architectures where downsampling operations are required without losing critical edge details often missed during conventional ...
pooling attention module
02-27
Traditional pooling layers such as max-pooling or average-pooling perform downsampling by selecting either maximum values or averaging over a region without considering contextual relationships ...
voxel_pooling
03-11
Regarding usage scenarios, unsupervised part learning approaches leverage voxelized models during training phases without requiring explicit annotations regarding parts composition. Such methods aim ...
用卷积代替池化
weixin_44929101的博客
08-09 7031
前言 还是因为毕设，计划对于池化进行优化，思路是用步长为2的卷积代替池化，先让我们讲一讲他们分别的原理。 池化 池化作用：对输入的特征图进行压缩，一方面使特征图变小，简化网络计算复杂度；一方面进行特征压缩，提取主要特征。但是我在网上找到了其他说法：池化层的主要作用有三个：1. 增加CNN特征的平移不变性。2. 池化的降采样使得高层特征具有更大的感受野。 3. 池化的逐点操作相比卷积层的加权和更有利于优化求解。 首先让我们看池化是如何操作吧： 这是我们常用的最大池化，其实就是在四个像素点中选取1个最大的。在
池化方法总结（Pooling）
热门推荐
Daniel_djf的专栏
01-05 6万+
在卷积神经网络中，我们经常会碰到池化操作，而池化层往往在卷积层后面，通过池化来降低卷积层输出的特征向量，同时改善结果（不易出现过拟合）。 为什么可以通过降低维度呢？ 因为图像具有一种“静态性”的属性，这也就意味着在一个图像区域有用的特征极有可能在另一个区域同样适用。因此，为了描述大的图像，一个很自然的想法就是对不同位置的特征进行聚合统计，例如，人们可以计算图像一个区域上的某个特定特征的平均值
pooling 与 步长大于1的卷积
Hali_Botebie的博客
09-12 835
文章目录1 什么是pool2 如何去除pooling3 pooling没用了吗？ 1 什么是pool https://video.zhihu.com/video/1019541860720705536?autoplay=false&useMSE= 这个视频很直观 https://www.zhihu.com/question/36686900 这个知乎还可以 最直接的作用是引入了不变性，比如最常见的conv-max pooling，因为取一片区域的最大值，所以这个最大值在该区域内无论在哪，max-po
卷积神经网络CNN
m0_43425029的博客
02-02 1379
CNN是一类强大的、为处理图像数据而设计的神经网络 图像的平移不变性使我们以相同的方始处理局部图像，而不在乎它的位置 局部性意味着计算相应的隐藏表示只需一小部分局部图像像素 在图像处理中，卷积层通常比全连接层需要更少的参数，但仍是高效的模型 CNN是一类特殊的神经网络，它可以包含多个卷积层 多个输入和输出通道使模型在每个空间位置可以获得图像的多方面特征 图像卷积 互相关运算：输出大小=输入大小-卷积核大小 计算二维互相关运算 import torch from torch import nn from
存在感逐渐降低的池化层——Pooling Layer总结
Liu Feng's Blog
04-27 4649
文章目录1. Pooling的作用2. 各种不同的Pooling1. max pooling（最大池化层）2. average pooling （平均池化层）3. Global Average Pooling（全局平均池化层）4. mix pooling（混合池化层）5. stochastic pooling(随机池化)6. Local Importance-based pooling（局部重要性池化层）7. Generalized-mean Polling layer（GeM池化层）3. 使用卷积替代池.
卷积核的类型及其作用
Billie使劲学的博客
07-13 7411
这是为什么呢？ 这就是解释了为什么很多网络的第一层使用的都是7×7的大卷积核接受输入图片，因为网络开头使用小卷积核进行下采样参数量会更大。感受野的计算是迭代计算感受野计算公式：1个5×5卷积：RF = 52个3×3卷积：RF = 3+（3-1）×1 = 51个7×7卷积：RF = 73个3×3卷积：RF = 3+（3-1）×1+（3-1）×1 = 7 标准的3×3卷积核只能看到对应区域3×3的大小，但是为了能让卷积核看到更大的范围，dilated conv使其成为了可能。poo
卷积层
PaddlePaddle
04-08 1万+
深度学习基础理论-CNN篇卷积层卷积层（convolution layer）是卷积神经网络中的基础操作，甚至在网络最后起分类作用的全连接层在工程实现时也是由卷积操作替...
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值