【深度学习】Pytorch池化层效率对比：自适应池化、最大值池化和均值池化

最新推荐文章于 2025-04-19 23:19:35 发布
最新推荐文章于 2025-04-19 23:19:35 发布
阅读量2.7k 收藏 4
点赞数
文章标签： python pytorch 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/thenewestbigman/article/details/127707651
版权

探究三种池化函数在降维过程中的效率比较

池化函数通常被用作卷积神经网络中的降维操作，池化函数可以大大降低特征维数，同时避免数据冗余和过拟合。

首先定义卷积层：

在这里插入图片描述

定义池化函数：

在这里插入图片描述均值池化：将卷积核扫描区域内的所有值加和求平均作为该次扫描的输出结果
最大值池化：将卷积核扫描区域内的最大值作为该次扫描的输出结果
自适应池化：此函数只输入一个 output_size 参数即可实现降维操作，具体实现过程是在运行过程中计算 kernel_size 和 stride ，padding 默认为 0 .
计算公式如下：
在这里插入图片描述

定义函数调用：

在这里插入图片描述

最低0.47元/天 解锁文章
深度学习知识点全面总结
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
01-05 33万+
本文详细介绍深度学习概念及原理，参考网上相关资料汇总，内容包含众多章节，包括神经网络基础及常见深度学习网络结构介绍，用于个人学习总结，适合深度学习初学者学习。同时介绍机器学习常见的分类算法：SVM、神经网络、随机森林、逻辑回归、KNN、贝叶斯。常见的监督学习算法：感知机、SVM、人工神经网络、决策树、逻辑回归.........
PyTorch的自适应池化Adaptive Pooling实例
12-23
简介 自适应池化Adaptive Pooling是PyTorch含有的一种池化层，在PyTorch的中有六种形式： 自适应最大池化Adaptive Max Pooling： torch.nn.AdaptiveMaxPool1d(output_size) torch.nn.AdaptiveMaxPool2d(output_size) torch.nn.AdaptiveMaxPool3d(output_size) 自适应平均池化Adaptive Average Pooling： torch.nn.AdaptiveAvgPool1d(output_size) torch.nn.AdaptiveAvg
PyTorch的自适应池化Adaptive Pooling
热门推荐
u013382233的博客
01-07 6万+
自适应池化Adaptive Pooling是PyTorch含有的一种池化层，在PyTorch的中有六种形式： 自适应最大池化Adaptive Max Pooling： torch.nn.AdaptiveMaxPool1d(output_size) torch.nn.AdaptiveMaxPool2d(output_size) torch.nn.AdaptiveMaxPool3d(output_s...
平均池化（Average Pooling）
最新发布
weixin_71288092的博客
04-19 1385
​​平均池化​​是一种下采样操作，通过对输入区域的数值取​​平均值​​来压缩数据空间维度。
pytorch--自适应池化Adaptive Pooling
weixin_42630613的博客
05-22 1129
MaxPool1d(kernel_size=math.ceil(inputsize / outputsize), stride=math.floor(inputsize / outputsize), padding=0) 只要给输入和输出，黑箱操作自动得出结果 举个栗子： 如果输入是9，想输出4 MaxPool1d(kernel_size=math.ceil(9 / 4), stride=math.floor(9 / 4), padding=0) kernel_size=math.ceil(9 / 4)=3
自适应池化
qq_38813456的博客
11-24 959
# target output size of 5x7 >>> m = nn.AdaptiveAvgPool2d((5,7)) >>> input = torch.randn(1, 64, 8, 9) >>> output = m(input) >>> # target output size of 7x7 (square) >>> m = nn.AdaptiveAvgPool2d(7) >>> i.
池化层：最大池化MaxPool、平均池化AvgPool、自适应池化AdaptiveMaxPool区别--基于pytorch框架
weixin_48678602的博客
04-07 1万+
文章目录MaxPool2d最大池化AvgPool2d平均池化AdaptiveAvgPool2d自适应平均池化 池化操作的一个重要的目的就是对卷积后得到的特征进行进一步处理，池化层可以起到对数据进一步浓缩的效果，从而缓解计算时内存的压力。 在pytoch中提供很多池化的类，这里主要介绍最**大池化（MaxPool）、平均池化（AvgPool）、自适应池化（AdaptiveAvgpool）**的区别,，其他方法类似。 对于torch.nn.MaxPool2d()池化操作相关参数的应用，其使用方法如下所示 tor
pytorch 的自适应池化adaptive pooling--nn.AdaptiveAvgPool2d
shuijinghua的博客
01-03 7343
只需要给定输出特征图的大小就好，其中通道数前后不发生变化。具体如下： 自适应池化adaptive pooling 是pytorch含有的一种池化层，在pytorch中有6种形式： 自适应最大池化Adaptive Max Pooling： torch.nn.AdaptiveMaxPool1d(output_size) torch.nn.AdaptiveMaxPool2d(output_size...
【深度学习】PyTorch框架(3)：优化与初始化
MUKAMO的博客
07-16 899
在文中，我们讨论了神经网络的初始化和优化技术。我们看到良好的初始化必须平衡保持梯度方差和激活方差。这可以通过使用Xavier初始化实现对于基于tanh的网络，以及使用Kaiming初始化实现对于基于ReLU的网络。在优化方面，动量和自适应学习率等概念可以帮助应对具有挑战性的损失曲面，但并不能保证神经网络性能的提升。
池化层实战指南：如何选择和应用以提升表情识别准确率
池化层在深度学习中扮演着关键角色，尤其是在特征提取和表达上提供了下采样与不变性，增强了模型的泛化能力。本文全面探讨了池化层的理论基础、在表情识别中的应用实践，以及未来的研究方向。首先，介绍了不同类型的...
torch.nn模块之池化层详解
DIPDWC的博客
01-14 6693
torch中的池化层1. torch.nn模块中的池化层简介2. 池化的调用方式3. 图像池化演示3.1 最大值池化3.2 平均值池化3.3 自适应平均值池化 1. torch.nn模块中的池化层简介 池化操作的一个重要目的就是对卷积后得到的特征进行进一步处理（主要是降维），从而缓解计算时内存的压力。池化会选取一定大小的区域，将该区域内的像素值使用一个代表元素表示。如果使用平均值代替，称为平均值池化，如果使用最大值代替则称为最大值池化。这两种池化方式示意图如下图1所示。 图1 最大值和平均值池化示意图 在
pytorch torch.nn.AdaptiveAvgPool2d()自适应平均池化函数详解
09-18
今天小编就为大家分享一篇pytorch torch.nn.AdaptiveAvgPool2d()自适应平均池化函数详解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
自适应池化、最大值池化和均值池化效率的比较探究
算法与编程之美
03-21 290
1 问题自适应池化、最大值池化和均值池化的效率，哪一个更高？2 方法三种池化方式的运行效率如何，使用对照试验得出：首先定义卷积层，直接转换输入的通道数：conv = nn.Conv2d( in_channels=1, # 输入为单通道灰度图 out_channels=128, # 输出为128通道img kernel_size=3, stride=1, padd...
pytorch之自适应平均池化
qq_36103746的博客
06-04 1805
1.nn.functional.adaptive_avg_pool2d 参考：pytorch中文文档之nn.functional.adaptive_avg_pool2d torch.nn.functional.adaptive_avg_pool2d(input, output_size) >>> import torch >>> import torch.nn as nn >>> a = torch.randn(1, 3, 8, 8) >>&
Pytorch----池化层(平均值池化、最大值池化、自适应最大值池化)--入门级小实例（逐行注释）---学习笔记
深度不学习！！的博客
12-07 2万+
文章目录最大值池化层平均值池化层自适应平均值池化层代码实现 还是用[上次的小实例] ，这次加入三种池化层做练习。(https://blog.youkuaiyun.com/qq_38737428/article/details/121523145) 我之前以为池化层也叫下采样，但这样说并不严格，只是大家都这么说，我刚知道，其实采样层包含池化层。某种卷积层也叫采样层。 最大值池化层 选择每个小区域的最大值作为特征放到结果矩阵，像下面这样。 maxpool = nn.MaxPool2d(2,stride=2) # 定义池化
补充：自适应池化
liupc的学习笔记
08-15 2092
在alexnet的实现中，在FC层之前使用了AdaptiveAvgPool2d这个trick。自适应的池化。 这个trick就是使得图片，不管多大的分辨率，输出都是6*6的。为什么要都统一成6*6呢？因为后面接了FC层，FC的输入神经元数目是固定的。如果前面的输入的神经元个数不匹配的话，那么这个FC层是没办法运行的。所以接了一个自适应的池化，把尺寸不匹配的特征图都池化到6*6。 例1：当不加AdaptiveAvgPool2d()时，输入的尺寸必须是固定的。 alexnet代码中不加自适应池化，
最大值池化与均值池化比较分析
算法与编程之美
03-11 1002
1 问题在深度学习的卷积网络过程中，神经网络有卷积层，池化层，全连接层。而池化层有最大值池化和均值池化两种情况，而我们组就在思考，最大值池化和均值池化有什么区别呢？两者的模型准确率是否有所不同？2 方法这是所有的代码，主要改变卷积层中的最大值池化和均值池化的相关代码即可。也就是maxpool2d和avgpool2d的应用。class MyNet(nn.Module): # （5.2）定义网络...
最大池化层公式
03-13
<think>好的，我现在需要帮助用户查找最大池化层的数学公式。首先，用户明确提到了“max pooling layer formula in neural networks”，所以我得先回忆一下最大池化层的基本概念和数学表达式。根据之前提供的引用内容，特别是引用[3]，里面提到池化层没有需要训练的参数，但有超参数如窗口大小f。所以最大池化应该是在一个f×f的窗口内取最大值。 接下来，我需要确认数学公式的正确表达方式。通常，最大池化的操作是对输入张量的每个局部区域应用最大值运算。例如，对于一个输入矩阵，假设窗口大小为2×2，步幅为2，那么输出就是每个2×2区域的最大值。数学上，可以用下式表示： $$ y_{i,j} = \max_{k,l \in W_{i,j}} x_{k,l} $$ 其中，$W_{i,j}$代表输入中对应于输出位置$(i,j)$的窗口区域。这个公式需要以独立公式的形式呈现，所以要用$$...$$包裹。同时，根据引用[3]，池化层不涉及可训练参数，所以公式中不需要权重或偏置项。 然后，考虑到用户可能想了解具体的例子，我应该举一个简单的数值示例，比如输入矩阵为4×4，窗口2×2，步幅2，这样输出就是2×2矩阵，每个元素是对应窗口的最大值。这能帮助用户更直观地理解公式。 另外，用户可能还会关心最大池化的作用，比如降低维度、减少计算量、增强平移不变性等，这些可以结合引用[1]和引用[3]中的内容简要说明。同时，需要确保回答中正确引用相关文献，比如在提到池化层超参数时引用[^3]，在提到CNN结构时引用[^1]。 最后，生成相关问题时要围绕池化层展开，可能涉及其他池化方法、超参数选择、反向传播的影响以及应用场景等，确保问题有针对性且能帮助用户深入理解。例如，最大池化和平均池化的区别，窗口大小如何影响特征图尺寸等。这些问题应该基于已有的引用内容，确保信息准确。</think>最大池化层（Max Pooling Layer）的数学公式可以表示为对输入区域取最大值。假设输入为二维矩阵$X$，池化窗口大小为$f \times f$，步长为$s$，则输出矩阵$Y$中每个元素的计算方式为： $$ Y_{i,j} = \max_{0 \leq m < f,\ 0 \leq n < f} X_{i \cdot s + m, j \cdot s + n} $$ 例如，若输入为$4 \times 4$矩阵，窗口大小$f=2$，步长$s=2$，则输出为$2 \times 2$矩阵。具体示例如下： $$ \begin{bmatrix} 1 & 3 & 2 & 9 \\ 4 & 2 & 7 & 5 \\ 3 & 8 & 1 & 6 \\ 0 & 4 & 5 & 2 \\ \end{bmatrix} \quad \Rightarrow \quad \begin{bmatrix} 4 & 9 \\ 8 & 6 \\ \end{bmatrix} $$ **特性说明**： 1. 池化窗口在输入上滑动，**无参数需训练**，仅有超参数$f$和$s$[^3]； 2. 通过降维减少计算量，增强平移不变性； 3. 反向传播时仅最大值位置获得梯度。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

自由之翼explore

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值