Pytorch 之 nn

最新推荐文章于 2025-05-13 15:28:55 发布
原创 最新推荐文章于 2025-05-13 15:28:55 发布 · 336 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

一、先介绍一下nn.Mudule

当学习到神经网络这一模块的时候，就经常出现 nn.Module，实际上这个是习以为常的叫法,具体的：torch.nn 是一个包，这个包里面有Module类，一般我们把 torch.nn 别称为：as nn,故引用Module类的时候就用的nn.Module，神经网络所有模型的构建都是从nn.Module这个基类继承的。

二、torch.nn ：

神经网络所用到的所有层结构和损失函数都来自于torch.nn这个包

卷积层：nn.Conv2（）
池化层：nn.MaxPool2d（）
激活函数层：nn.ReLU()、nn.CrossEntropyLoss（）
标准化处理层：nn.BatchNorm2d（）
线性层：nn.Linear（）

三、分清楚Module和Conv2（）、ReLU()、BatchNorm2d（）等

他们都在torch.nn这个包里面，但是Module是个类，Conv2（）、ReLU()、BatchNorm2d（）是个方法，因此调用的时候 Module需要重写，Conv2（）、ReLU()、BatchNorm2d（）需要传入参数调用。
Pytorch中 nn.Transformer的使用详解与Transformer的黑盒讲解
iioSnail的博客
07-28 9万+
1. Transformer的训练过程讲解 2. Transformer的推理过程讲解 3. Transformer的入参和出参讲解 4. nn.Transformer的各个参数讲解 5. nn.Transformer的mask机制详解 6. 实战：使用nn.Transformer训练一个copy任务。
Pytorch（笔记8神经网络nn）
zsy54577的博客
07-11 1685
torch.nn是专门为深度学习而设计的模块。torch.nn的核心数据结构是Module，它是一个抽象的概念，既可以表示神经网络中的某个层（layer），也可以表示一个包含很多层的神经网络。在实际使用中，最常见的做法是继承nn.Module，从而编写自己的网络/层。下面先来看看如何用nn.Module实现自己的全连接层。
pytorch torch.nn
yjinyyzyq的博客
04-18 421
文章目录nn 目录 nn 目录 ├── backends │   ├── backend.py │   ├── init.py │   ├── pycache │   │   ├── backend.cpython-36.pyc │   │   ├── ini...
PyTorch中的nn.Embedding应用详解
最新发布
二爷的博客
05-13 770
PyTorch中的nn.Embedding模块是一种用于实现词嵌入的工具，能够将离散的词汇或符号映射到连续的向量空间，从而捕捉词汇之间的语义关系。nn.Embedding本质上是一个参数化的查找表，通过训练更新嵌入向量以优化模型性能。它在自然语言处理任务中广泛应用，如文本分类，通过将单词转换为嵌入向量，提升模型的泛化能力和计算效率。此外，虽然nn.Embedding主要用于文本处理，但在某些图像处理任务中也可用于映射像素值到高维空间。通过示例代码展示了如何在PyTorch中使用nn.Embedding进行文
PyTorch-nn.Module
qq_61706112的博客
05-27 1834
PyTorch关于神经网络的一些层的应用。
【深度学习】pytorch——神经网络工具箱nn
urge的博客
11-06 1585
PyTorch神经网络工具箱nn是一个用于构建深度学习模型的核心模块。它提供了一组简单而灵活的API，可以轻松地定义、训练和评估各种类型的神经网络。nn模块中包含了许多预定义的模块和方法，如线性层、卷积层、循环神经网络、损失函数等，可以直接调用这些模块来构建深度学习模型。以下是nn模块的主要功能：定义神经网络模型：可以使用nn模块定义各种类型的神经网络。通过继承nn.Module类，可以创建一个自己的神经网络类，并在其中定义各个层的结构和参数。
机器学习库 | PyTorch：torch.nn
记录风老师成长的个人博客
05-08 601
需安装torchinfo库# 定义网络nn.ReLU(),# 实例化网络# 显示模型摘要SimpleNetnn.init控制权重初始化策略# 定义网络# 自定义初始化init.xavier_normal_(self.fc.weight) # Xavier初始化init.constant_(self.fc.bias, 0.1) # 偏置初始化为0.1# 实例化网络# 查看参数print("权重初始化值:", net.fc.weight)
PyTorch之nn.ReLU与F.ReLU的区别介绍
09-16
在PyTorch中，ReLU有两 种常见的实现方式：`nn.ReLU` 和 `F.relu`。 1. **nn.ReLU**: 这是ReLU作为神经网络层的实现，它属于`nn.Module`类的子类。当你在定义网络结构时，如上面的`AlexNet_1`，`nn.ReLU`被包含在`...
PyTorch之nn.Module与nn.functional用法区别
酒酿小圆子呀～
06-30 1473
其实这两种方法都是使用relu激活，只是使用的场景不一样，F.relu()是函数调用，一般使用在foreward函数里。而nn.ReLU()是模块调用，一般在定义网络层的时候使用。在上述示例中，我们首先导入nn.functional 模块，然后在网络的forward 方法中使用F.relu 函数作为激活函数。的主要优势是它的计算效率和灵活性，因为它允许你以函数的方式直接调用这些操作，而不需要创建额外的层。当用print(net)输出时，nn.ReLU()会有对应的层，而F.ReLU()是没有输出的。
PyTorch之nn.Module、nn.Sequential、nn.ModuleList使用详解
酒酿小圆子呀～
06-30 5281
nn.functional 中的函数没有可学习的参数，与nn.Module 中的层不同。其实这两种方法都是使用relu激活，只是使用的场景不一样，F.relu()是函数调用，一般使用在foreward函数里。在上述示例中，我们首先导入nn.functional 模块，然后在网络的forward 方法中使用F.relu 函数作为激活函数。的主要优势是它的计算效率和灵活性，因为它允许你以函数的方式直接调用这些操作，而不需要创建额外的层。是PyTorch中一个重要的模块，它包含了许多用于构建神经网络的函数。
pytorch之nn.BECWithLogitsLoss使用详解
yueguang8的博客
06-18 4427
nn.BCEWithLogitsLoss 是 PyTorch 中一种非常实用的二分类损失函数,它结合了 Sigmoid 激活和二元交叉熵损失,在数值稳定性和梯度计算方面都有所改进,是深度学习实践中的首选之一。它不仅具有良好的数值稳定性,还可以方便地处理样本不平衡等问题,是值得深入学习和应用的重要知识点
PyTorch深度学习——nn
m0_43425029的博客
07-03 254
神经网络的学习，可以参考官方文档： nn.Moudle 下面给一个调用nn.Moudle的小例子： import torch from torch import nn class Hue(nn.Module): def __init__(self): super().__init__() def forward(self,input): output = input + 1 return output hue = Hue() x = to
pytorch深度学习框架—torch.nn模块（一）
xiaoxu的博客
06-12 4588
torch.nn模块中包括了pytorch中已经准备好的层，方便使用者调用构建的网络。包括了卷积层，池化层，激活函数层，循环层，全连接层。
pytorch使用-nn.RNN
xu624735206的博客
04-07 4876
pytorch使用-nn.RNN一、nn.RNN 一、nn.RNN nn.RNN(input_size: int, hidden_size: int, num_layers: int = 1, bias: bool = True, batch_first: bool = False, dropout: float = 0., bidirectional: bool = False, proj_size: int = 0, device=None, dtype=No
Pytorch中torch.nn的学习
weixin_70673823的博客
03-30 1370
Pytorch中torch.nn学习，torch.nn的介绍和使用实例
PyTorch 中神经网络库torch.nn的详细介绍
xw555666的博客
02-01 6575
torch.nn是 PyTorch 深度学习框架中的一个核心模块，它为构建和训练神经网络提供了丰富的类库。通过torch.nn，开发者能够快速构建复杂的深度学习模型，并利用 PyTorch 动态计算图特性进行高效训练和推理。此外，该模块还与torch.optim配合，方便地进行权重优化；以及与DataLoader结合以组织和迭代训练数据。
Pytorch中的torch.nn类
weixin_30349597的博客
04-17 231
直接看 https://pytorch.org/docs/stable/nn.html 就行了 转载于:https://www.cnblogs.com/sbj123456789/p/10723256.html
pytorch基础（三）：使用nn模块构造神经网络
一个bug是bug，多个bug能work
11-14 2655
文章目录前言一、问题描述二、官方代码三、代码讲解1.参数初始化2.torch.nn2.1torch.nn.Relu和torch.nn.Linear2.2 神经网络参数的初始化2.3 torch.nn.Sequential2.4nn中的损失函数2.5 梯度清零2.6 参数更新总结 前言   本系列主要是对pytorch基础知识学习的一个记录，尽量保持博客的更新进度和自己的学习进度。本人也处于学习阶段，博客中涉及到的知识可能存在某些问题，希望大家批评指正。另外，本博客中的有些内容基于吴恩达老师深度学习课程，
Pytorch学习(二）—— nn模块
qq_38816432的博客
07-31 7096
torch.nnnn.Module常用的神经网络相关层优化器nn.functional初始化策略nn.Module深入分析nn和autograd借助nn搭建ResNet50 Pytorch nn模块提供了创建和训练神经网络的各种工具，其专门为深度学习设计，核心的数据结构是Module。Module是一个抽象的概念，既可以表示神经网络中的某个层，也可以表示一个包含很多层的神经网络。 nn.Module nn.Module基类构造函数： def __init__(self): self.tra
pytorch安装nn
03-23
### 安装 PyTorch 及其 `torch.nn` 模块 在 Python 环境中安装 PyTorch 后，即可自动获得 `torch.nn` 模块的功能。以下是具体的安装方法： #### 方法一：通过官方推荐的方式安装 PyTorch 访问 PyTorch 的官方网站 (https://pytorch.org/get-started/locally/) 并根据操作系统、Python 版本以及硬件加速需求（如 CUDA 支持）选择合适的命令来安装。 例如，在支持 CUDA 11.7 的环境中可以运行以下命令： ```bash pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu117 ``` 对于不使用 GPU 加速的情况，则可执行： ```bash pip install torch torchvision torchaudio ``` 完成上述操作后，PyTorch 就会被成功安装到当前环境之中[^1]。 #### 使用 `torch.nn` 模块 一旦 PyTorch 被正确安装，就可以直接导入并使用其中的 `torch.nn` 模块。该模块包含了构建深度学习模型所需的各种工具和组件，比如参数管理器 (`Parameter`)、基础单元 (`Module`)、容器类 (`Sequential`, `ModuleList`, etc.) 和预定义层结构（全连接层、卷积层等）。下面是一个简单的例子展示如何创建一个多层感知机(MLP): ```python import torch from torch import nn class SimpleMLP(nn.Module): def __init__(self, input_size=784, hidden_size=128, num_classes=10): super(SimpleMLP, self).__init__() # Define layers of the network. self.fc1 = nn.Linear(input_size, hidden_size) self.relu = nn.ReLU() self.fc2 = nn.Linear(hidden_size, num_classes) def forward(self, x): out = self.fc1(x) out = self.relu(out) out = self.fc2(out) return out model = SimpleMLP() print(model) ``` 此代码片段展示了如何继承自 `nn.Module` 类型来自定义一个神经网络模型，并利用内置函数如线性变换(`Linear`)与激活函数(`ReLU`)搭建前馈路径[^2]。 关于批量标准化(batch normalization)，它是一种常用的技巧用来稳定训练过程减少内部协变量偏移现象的影响。以二维空间为例，BatchNorm2d 函数会对输入张量沿着通道维度计算均值和标准差来进行规范化处理[^3]。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值