nn.Parameter和nn.Linear、nn.ModuleList和nn.Sequential区别

self.weight = nn.Parameter(torch.FloatTensor(out_features, in_features)) 和self.weight = nn.Linear(in_features, out_features) 有什么区别?

  1. 初始化方式不一样,nn.Parameter初始化方式需要指定,nn.Linear默认是Kaiming初始化
  2. nn.Linear默认有个bias

nn.ModuleList和nn.Sequential区别

nn.ModuleList不会自动连接子模块,需要在forward方法中显式地调用每个模块的前向传播。但是nn.Sequential是一种便捷的方式,用于定义按顺序执行的神经网络层

nn.ModuleList示例

import torch
import torch.nn as nn

class MyModel(nn.Module):
    def __init__(self):
        super(MyModel, self).__init__()
        
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值