pytorch定义自己的新层(非官方example)

本文详细介绍了如何在 PyTorch 中自定义层,包括解析层的结构、示例实现,以及如何通过学习参数完成特定任务。示例中展示了如何创建一个自定义层实现 z = a*x + b*y 的功能,并通过训练调整参数 a 和 b。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、解析层的结构

首先我们通过分析官方的源码了解一下什么是层,它包含哪些结构,成员是啥等。

class Linear(nn.Module):
    def __init__(self, input_features, output_features, bias=True):
        super(Linear, self).__init__()
        self.input_features = input_features
        self.output_features = output_features
        self.weight = nn.Parameter(torch.Tensor(output_features, input_features))
        if bias:
            self.bias = nn.Parameter(torch.Tensor(output_features))
        else:
            self.register_parameter('bias', None)
        self.weight.data.uniform_(-0.1, 0.1)
        if bias is not None:
            self.bias.data.uniform_(-0.1, 0.1)
    def forward(self, input):
        return LinearFunction.apply(input, self.weight, self.bias)

上面的源码是官方的线性层实现方式。

参数含义:

  • input_features是输入向量长度,output_features是输出向量的长度
  • input调用该类时的输入

Linear层包含两个内部参数,也就是我们说的层的权重,weight和bias。两个函数构造函数__init__和前向传播函数forw

评论 10
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值