Pytorch池化层、线性层、激活函数层

最新推荐文章于 2025-06-28 10:47:48 发布
最新推荐文章于 2025-06-28 10:47:48 发布
阅读量1.2k 收藏 3
点赞数 1
CC 4.0 BY-SA版权
分类专栏： pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_43289424/article/details/104186952
本文详细解析了深度学习中池化层的作用，包括最大池化和平均池化，并介绍了PyTorch框架下如何实现这些操作。同时，探讨了反池化过程，即上采样技术，如最大值反池化，并解释了其在神经网络中的应用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

层

池化层

最大池化、平均池化

在这里插入图片描述

pytorch实现池化（下采样）

最大池化

在这里插入图片描述
冗余信息剔除、减小运算量

平均池化

在这里插入图片描述
相对于最大池池化的图像亮度较小

pytorch实现反池化（上采样）

最大值反池化

在这里插入图片描述

img_reconstruct = torch.randn_like(img_pool, dtype=torch.float)
maxunpool_layer = nn.MaxUnpool2d((2, 2), stride=(2, 2))
img_unpool = maxunpool_layer(img_reconstruct, indices)

线性层

在这里插入图片描述
在这里插入图片描述

激活函数层

非线性变换

sigmoid

在这里插入图片描述

tanh

在这里插入图片描述

relu

在这里插入图片描述
在这里插入图片描述

pytorch 常见的网络层（卷积层，池化层，线性层，激活函数）
qq_40107571的博客
09-01 2203
pytorch 常见的网络层（卷积层，池化层，线性层，激活函数）的介绍
Pytorch深度学习-----神经网络之线性层用法
LGL
08-02 2255
其中最重要的三个参数为表示输入的特征值大小，即输入的神经元个数表示输出的特征值大小，即经过线性变换后输出的神经元个数bias，表示是否添加偏置。
卷积神经网络pytorch实现（二）：池化层
tyro_blog的博客
03-05 985
#%% ''' 实际图像里，我们所感兴趣的物体不会总是出现在同一个地方，这些物品 一定会出现在不同的像素位置，因此导致同一个边缘的输出会在总的卷积输出Y 的不同同位置，造成模式识别的不便 而池化层的提出是为了缓解卷积层对位置的过度敏感性 ''' #%% '''二维最大池化函数和平均池化层''' import torch from torch import nn #这里的mode参数可以填...
pytorch之池化层
如月之恒，如日之升
04-21 6309
·实际图像里，我们感兴趣的物体不会总出现在固定位置：即使我们连续拍摄同一个物体也极有可能出现像素位置上的偏移。这会导致同一个边缘对应的输出可能出现在卷积输出 Y中的不同位置，进而对后面的模式识别造成不便。 在本节中我们介绍池化（pooling）层，它的提出是为了缓解卷积层对位置的过度敏感性 二维最大池化层和平均池化层 同卷积层一样，池化层每次对输入数据的一个固定形状窗口（又称池化窗口）中的元素计算输出。不同于卷积层里计算输入和核的互相关性，池化层直接计算池化窗口内元素的最大值或者平均值。该...
【小白教程】理解Transformer中的关键组件：多头注意力和线性层，收藏这一篇就够了！！
最新发布
2401_85327249的博客
06-28 829
在多头注意力机制里，输入的查询（Query）、键（Key）和值（Value）会被投影到多个子空间（头）进行并行计算，每个头关注输入序列的不同方面。在所有头的注意力计算完成后，需要将这些头的结果拼接起来，然后通过一个线性层进行变换，以整合多头的信息，使其能够适应模型后续的计算需求。
pytorch-池化层
wyw0000的博客
05-29 677
pytorch 池化层
PyTorch学习之池化层（POOLING LAYERS）
热门推荐
mingo_敏
05-03 3万+
1 MaxPool torch.nn.MaxPool1d(kernel_size, stride=None, padding=0, dilation=1, return_indices=False, ceil_mode=False) torch.nn.MaxPool2d(kernel_size, stride=None, padding=0, dilation=1, return_indices=...
Pytorch-池化、线性、激活函数层
斯人若彩虹，遇上方知有！
08-07 1400
1. 池化层——Pooling layer 2. 线性层——Linear layer 3. 激活函数层——Activation layer 1、池化层——Pooling layer 池化运算：对信号进行 “收集”并 “总结”，类似水池收集水资源，因而得名池化层 “收集”：多变少 “总结”：最大值/平均值 最大值池化： import os import torch import random from PIL import Image import numpy as np import
Pytorch学习 day08（最大池化层、非线性激活层、正则化层、循环层、Transformer层、线性层、Dropout层）
丿罗小黑的博客
03-09 1048
【代码】Pytorch学习 day08（最大池化层）
pytorch学习（三）、池化层、非线性激活和线性层的代码演示
weixin_73044854的博客
01-19 712
池化层、非线性激活和线性层的代码演示
[PyTorch 学习笔记] 3.3 池化层、线性层和激活函数层
张贤的博客
08-31 1129
本章代码：https://github.com/zhangxiann/PyTorch_Practice/blob/master/lesson3/nn_layers_others.py 这篇文章主要介绍了 PyTorch 中的池化层、线性层和激活函数层。 池化层 池化的作用则体现在降采样：保留显著特征、降低特征维度，增大 kernel 的感受野。 另外一点值得注意：pooling 也可以提供一些旋转不变性。 池化层可对提取到的特征信息进行降维，一方面使特征图变小，简化网络计算复杂度并在一定程度上避免过拟合.
PyTorch教程：卷积、池化、线性层与激活函数解析
"本文是关于PyTorch学习的笔记，主要介绍了如何定义卷积层、转置卷积层、池化层、去池化层以及线性层，并涉及了多种激活函数，如sigmoid、tanh和ReLU及其变种。文中通过实例展示了不同操作对二维图像的影响，使用...
pytorch初学笔记（十二）：神经网络基本结构之线性层
CV在读
11-28 7024
CLASS,,bias=True,,dtype=None)每一层的某个神经元的值都为前一层所有神经元的值的sum和。基于公式y=wx+b计算，w为权重，x为输入，b为偏置值。in_features，输入特征(int) – size of each input sample，输入的tensor大小out_features，输出特征(int) – size of each output sample，输出的tensor大小bias(boolFalseTrueweight(bias。
PyTorch实现卷积和池化（kaggle环境）
远方
03-11 1285
import numpy as np import torch from torch import nn from torch.autograd import Variable from PIL import Image import matplotlib.pylab as plt %matplotlib inline 卷积层 导入图片并且转化为灰度图 im = Image.open('../i...
Pytorch池化层汇总
qq_46276946的博客
03-08 429
PyTorch学习之池化层（POOLING LAYERS）_mingo_敏-优快云博客_pytorch 池化1 MaxPooltorch.nn.MaxPool1d(kernel_size, stride=None, padding=0, dilation=1, return_indices=False, ceil_mode=False)torch.nn.MaxPool2d(kernel_size, stride=None, padding=0, dilation=1, return_indices=...
PyTorch快速入门教程【小土堆】-神经网络-线性层及其他层介绍
weixin_42182290的博客
05-13 476
PyTorch快速入门教程【小土堆】-神经网络-线性层及其他层介绍
线性层讲解
m0_73611175的博客
07-10 2210
线性层是神经网络中最基本的构建模块之一，通过线性变换将输入数据映射到新的空间。通过调整输入和输出的维度，线性层可以在不同的特征空间之间进行变换，使模型能够更好地捕捉和表示数据中的复杂模式。通过 PyTorch 中的nn.Linear类，我们可以轻松地定义和使用线性层进行各种操作。%20bias。
线性层/全连接层
RaltBergling的博客
08-11 2975
作用类似于经典的全连接层（Fully Connected Layer），常用于连接神经网络中的不同层次。主要功能是执行线性变换，也就是对输入数据进行矩阵乘法并添加一个偏置（bias）。：有线性层将输入张量乘以权重矩阵并加上偏置项。如图所受，这种线性变换可以被表示为：也就是每个g都是由与它连线的x乘以相应权重k再加上偏值b。x 是输入张量，通常是二维的，形状为 (N,in_features)，其中 N 是批量大小（batch size），in_features 是输入的特征数。
PyTorch学习笔记（9）--神经网络：线性层
weixin_43981621的博客
08-17 1万+
PyTorch学习笔记（9）–神经网络：线性层     本博文是PyTorch的学习笔记，第9次内容记录，主要介绍神经网络线性层的基本使用。 目录PyTorch学习笔记（9）--神经网络：线性层1.什么是线性层2.线性层2.1线性激活函数相关参数2.2线性层应用举例12.3线性层应用举例23.学习小结 1.什么是线性层     线性层又叫全连接层，其中每个神经元与上一层所有神经元相连，一个简单的线性层如下图所示： 2.线性层 2.1线性激活函数相关参数     在PyTorch官网中，详细介绍了线性层的详
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值