从零实现深度神经网络的正向传播

原创已于 2022-05-19 14:15:12 修改 · 323 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#dnn #人工智能 #神经网络

于 2022-05-17 17:30:00 首次发布

深度学习专栏收录该内容

16 篇文章

订阅专栏

该博客介绍了如何使用PyTorch构建一个具有两隐藏层的神经网络，输入500个样本的20个特征，进行3类分类任务。模型结构包括13个神经元的第一层，ReLU激活，8个神经元的第二层，Sigmoid激活，以及最后的输出层。代码展示了模型定义、随机种子设置、数据生成以及模型前向传播的过程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

500个数据，20个特征，标签为3分类，

网络架构：第一层13个神经元，第二层8个，第三层输出

第一层激活函数relu，第二层。

import torch
import torch.nn as nn
from torch.nn import functional as F

torch.random.manual_seed(22)
x = torch.rand((500,20),dtype=torch.float32)
y = torch.randint(low=0,high=3,size=(500,1),dtype=torch.float32)

class Model(nn.Module):
    def __init__(self,in_features=10,out_features=2):
        """
        :param in_features: input feature count
        :param out_features: output feature count
        """
        super(Model, self).__init__()# copy init in nn.Module,
        self.linear1 = nn.Linear(in_features,13)
        self.linear2 = nn.Linear(13,8)
        self.output = nn.Linear(8,out_features)
    def forward(self,x):
        """
        nn forward propagat
        Run each layer and add activation function
        :param x:
        :return:
        """
        z1 = self.linear1(x)
        relu1 = torch.relu(z1)
        z2 = self.linear2(relu1)
        sigma1 = torch.sigmoid(z2)
        out = self.output(sigma1)
        softmax1 = F.softmax(out,dim=1)
        return softmax1

if __name__ == '__main__':
    # instantiation nn
    torch.random.manual_seed(22)
    net = Model(in_features=x.shape[1],out_features=len(y.unique()))
    print(net.forward(x))
    print(net.linear1.weight.shape)
    print(net.linear2.weight.shape)
    print(net.output.weight.shape)

关于super，Model是nn.Module的子类，会继承其父类的方法（init之外的方法)，但是无法继承父类的init之内的属性，所以这里要用super。

nn.apply() # 对神经网络中的所有层，init中的所有对象都执行相同的操作

nn.parameters() # 神经网络生成的所有参数