深度学习基础--池化--Stochastic pooling(随机池化)

最新推荐文章于 2025-07-05 09:00:00 发布
转载 最新推荐文章于 2025-07-05 09:00:00 发布 · 5.9k 阅读 · 2 ·
CC 4.0 BY-SA版权
原文链接：https://www.cnblogs.com/tornadomeet/archive/2013/11/19/3432093.html

本文深入解析了随机池化（Stochastic Pooling）在深度学习中的应用。介绍了随机池化的计算过程，包括通过概率矩阵选择方格，以及在测试过程中如何进行加权平均。此外，还探讨了随机池化在反向传播中的实现方式，类似于Max-Pooling。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

源地址https://www.cnblogs.com/tornadomeet/archive/2013/11/19/3432093.html

Stochastic pooling(随机池化)

计算过程

  1）先将方格中的元素同时除以它们的和sum，得到概率矩阵；
  2）按照概率随机选中方格；
  3）pooling得到的值就是方格位置的值。
  使用stochastic pooling时(即test过程)，其推理过程也很简单，对矩阵区域求加权平均即可。
  在反向传播求导时，只需保留前向传播已经记录被选中节点的位置的值，其它值都为0,这和max-pooling的反向传播非常类似。

求值过程的例子

转(20191122更新)
https://www.cnblogs.com/tornadomeet/archive/2013/11/19/3432093.html

深度学习知识点全面总结
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
01-05 34万+
本文详细介绍深度学习概念及原理，参考网上相关资料汇总，内容包含众多章节，包括神经网络基础及常见深度学习网络结构介绍，用于个人学习总结，适合深度学习初学者学习。同时介绍机器学习常见的分类算法：SVM、神经网络、随机森林、逻辑回归、KNN、贝叶斯。常见的监督学习算法：感知机、SVM、人工神经网络、决策树、逻辑回归.........
深度学习炼丹-超参数调整和模型训练技巧
专注计算机视觉算法训练，算法优化部署以及SDK开发的知识分享。
12-13 1822
所谓超参数，即不是通过学习算法本身学习出来的，需要作者手动调整（可优化参数）的参数(理论上我们也可以设计一个嵌套的学习过程，一个学习算法为另一个学习算法学出最优超参数)，卷积神经网络中常见的超参数有: 优化器学习率、训练 Epochs 数、批次大小 batch_size 、输入图像尺寸大小。
StochasticPooling 随机池化的PyTorch实现
欢迎来到hellyou的博客
06-08 1641
StochasticPooling 随机池化的PyTorch实现 引用该代码请联系告知我
随机池化（Stochastic Pooling）
qq_37692302的博客
07-06 8680
前言 CNN中卷积完后有个步骤叫pooling, 在ICLR2013上，作者Zeiler提出了另一种pooling手段(最常见的就是mean-pooling和max-pooling)，叫stochastic pooling。只需要对Feature Map中的元素按照其概率值大小随机选择，元素选中的概率与其数值大小正相关，并非如同max pooling那样直接选取最大值。这种随机池化操作不但最大化地保证了取值的Max，也部分确保不会所有的元素都被选取max值，从而提高了泛化能力。 ...
【深度学习】【入门】池化层
最新发布
2401_86886401的博客
07-05 903
池化层是深度学习中重要的下采样操作，主要分为最大池化和平均池化两种类型。最大池化选取窗口内最大值，适合边缘检测；平均池化计算窗口平均值，能平滑噪声保留整体特征。池化层的作用包括：降低特征图尺寸以减少计算量、增强模型对平移和旋转的鲁棒性、防止过拟合。此外还有随机池化和全局池化等特殊方法。代码示例展示了PyTorch中MaxPool2d的实现，通过设置kernel_size、stride等参数控制池化效果。池化层通过保留关键信息、忽略冗余细节，有效提升了深度学习模型的性能和效率。
Stochastic Pooling
AngeliaZ
03-05 423
推荐一篇很好的博文，博主也很好，不理解的问题会很及时回复～ https://www.cnblogs.com/makefile/p/pooling.html
stochastic pool
Losteng的博客
05-28 2396
看到很多的对CNN的改造的文章中都是对pool做东西，最近看到一个随机池化，就好奇的去看了一下 可以参看这篇文章 Stochastic Pooling for Regularization of Deep Convolutional Neural Networks 在caffe中是支持最大池化，均值池化，随机池化的 在使用中常见的是mean-pooling和max-poo
Deep learning：Stochastic Pooling简单理解
01-12 417
CNN中卷积完后有个步骤叫pooling, 在ICLR2013上，作者Zeiler提出了另一种pooling手段(最常见的就是mean-pooling和max-pooling)，叫stochastic pooling，在他的文章还给出了效果稍差点的probability weighted pooling方法。 　　stochastic pooling方法非常简单，只需对feature map
网络结构文件----卷积层、池化层、全连接层、激活函数层、测试时输出准确率、softmax层、reshape层、Dropout层
liupc的学习笔记
04-30 4216
一、卷积层 点击此处返回总目录 二、池化层 三、全连接层 四、激活函数层 五、测试时输出准确...
深度学习入门-CNN
just的博客
01-17 995
卷积操作能够有效地捕捉图像中的局部模式，如边缘、纹理和形状等，且具有参数共享和稀疏连接的特点，大大减少了模型的参数数量，提高了计算效率。全连接层是CNN中实现分类或回归的关键层，其输入是卷积层和池化层提取的特征图，输出是最终的预测结果。在人工智能的广阔领域中，CNN被用于图像识别、语音识别等各种场合，CNN通过模拟人类视觉皮层的神经元连接方式，能够自动提取图像中的特征，从而实现对图像的高效理解和处理。卷积层可以有多个，随着网络的加深，卷积层提取的特征从低级的边缘、纹理逐渐转变为高级的语义信息。
Stochastic Pooling for Regularization of Deep Convolutional Neur
01-25
《随机池化：深度卷积神经网络的正则化方法》 在计算机视觉领域，深度卷积神经网络...未来的研究可能会深入探究随机池化的理论基础，以及如何进一步优化这种正则化策略，以实现更高效、更强大的深度学习模型。
基于MATLAB的神经网络池化过程示例
07-16
基于MATLAB的神经网络池化过程示例基于MATLAB的神经网络池化过程示例
随即池化的方法和意义
weixin_54279123的博客
07-17 1082
随机池化（StochasticPooling）可以看作在一个池化窗口内对特征图数值进行归一化，按照特征图归一化后的概率值大小随机采样选择，即元素值大的被选中的概率也大。
卷积神经网络---池化层
weixin_45698190的博客
10-10 4097
在神经网络中，我们经常会看到池化层，常用的池化操作有四种：mean-pooling（平均池化），max-pooling（最大池化）、Stochastic-pooling（随机池化）和global average pooling（全局平均池化），池化层有一个很明显的作用：减少特征图大小，也就是可以减少计算量和所需显存。 ***mean-pooling（平均池化）：***即对邻域内特征点只求平均 优缺点：能很好的保留背景，但容易使得图片变模糊 正向传播：邻域内取平均 反向传播：特征值根据领域大小被平均，然后传
dropout、dropconnect、maxout和stochastic pooling
wantong1017的专栏
11-09 9745
标题的四个方法分别是这两年来Deep Learning中对深度网络的一种正则化的trick，至于什么是什么时正则化，我也不清楚，姑且认为这些都是防止网络过拟合的技术吧。   Dropout：直接参考tornadomeet的博文：http://www.cnblogs.com/tornadomeet/p/3258122.html Dropout是指在模型训练时随机让网络某些隐含层节点的权重不工作
mean-pooling，max-pooling和Stochastic-pooling
小鸡快跑的博客
05-24 2388
mean-pooling，即对邻域内特征点只求平均，max-pooling，即对邻域内特征点取最大。根据相关理论，特征提取的误差主要来自两个方面：（1）邻域大小受限造成的估计值方差增大；（2）卷积层参数误差造成估计均值的偏移。一般来说，mean-pooling能减小第一种误差，更多的保留图像的背景信息，max-pooling能减小第二种误差，更多的保留纹理信息。Stochastic-pooling...
池化(Pooling)的种类与具体用法——基于Pytorch
热门推荐
weixin_60737527的博客
09-27 2万+
池化的种类、原理与基于Pytorch的具体用法
Stochastic pooling随机池化代码实现
m0_51622811的博客
03-04 1309
Stochastic Pooling(随机池化) 随机池化Stochastic Pooling是Zeiler等人于ICLR2013提出的一种池化操作。随机池化的计算过程如下 先将方格中的元素同时除以它们的和sum，得到概率阵 按照概率随机选中方格 pooling得到的值就是方格位置的值 随机池化只需对特征图中的元素按照其概率值大小随机选择，即元素值大的被选中的概率也大，而不像max-pooling那样，永远只取那个最大值元素，这使得随机池化具有更强的泛化能力 import torch .
池化的计算
liamkiki的博客
03-24 544
new_height = (input_height - filter_height)/S + 1 new_width = (input_width - filter_width)/S + 1 S表示步长
深度学习基础配套代码解析
由于提供的信息有限，并没有包含实际的代码或详细描述，因此我将基于标题中提到的“Fundamentals of Deep Learning”（深度学习基础）这一主题，进行详细的知识点展开。 深度学习（Deep Learning）是人工智能（AI）...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值