pytorch--多维特征的输入

本文介绍了使用PyTorch框架实现多层神经网络的过程,包括数据加载、模型定义、损失函数与优化器的选择,以及训练过程中的损失变化可视化。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

 针对多维向量的处理,本身在sigmoid函数中,数据以向量的方式进行运算--可以看出是1*n的矩阵,在多维向量多个样本的情况下,可以直接理解成矩阵相乘。

通过Linear函数完成矩阵的维度变化。


from ast import Return
from operator import itemgetter
from pickletools import optimize
import numpy.matlib
import torch

import numpy as np
import matplotlib.pyplot as plt

#这一步跟老师写的完全不一样,不明白老师是如何同时读取两个数据的,另外相对路径找不到只能写绝对路径而且要换成双斜杠
x_yuan=np.loadtxt("C:\\anaconda_3\\Lib\\site-packages\\sklearn\\datasets\\data\\diabetes_data.csv.gz",delimiter=' ',dtype=np.float32)
y_yuan=np.loadtxt("C:\\anaconda_3\\Lib\\site-packages\sklearn\\datasets\\data\\diabetes_target.csv.gz",delimiter=' ',dtype=np.float32)
x_data=torch.from_numpy(x_yuan)
y_data=torch.from_numpy(y_yuan)
#y_data=y_data.view(422,1)

class Model(torch.nn.Module):
    def __init__(self) :
        super(Model,self).__init__()
        self.linear1=torch.nn.Linear(10,6)#维度报错,这里老师给的和数据不一致修改一下
        self.linear2=torch.nn.Linear(6,4)
        self.linear3=torch.nn.Linear(4,1)
        self.sigmoid=torch.nn.Sigmoid()

    def forward(self,x):
        x=self.sigmoid(self.linear1(x)) 
        x=self.sigmoid(self.linear2(x)) 
        x=self.sigmoid(self.linear3(x)) 
        x = x.squeeze(-1) #计算出来的数据是422*1的矩阵,与输入为一维张量不符,需要降维
        return x #避免出现参数传递错误,就不设置新参数而是选择x自动代换

model=Model()

sunshi=torch.nn.BCELoss(size_average=True)
youhua=torch.optim.SGD(model.parameters(),lr=0.1)

e_ch=[]
loss_l=[]
for epoch in range(50):
    y_pred=model(x_data)
    loss = sunshi(y_pred,y_data)
    print(epoch,loss.item())
    e_ch.append(epoch)
    loss_l.append(loss.item())

    youhua.zero_grad()
    loss.backward()

    youhua.step()

plt.plot(e_ch,loss_l)
plt.xlabel("epoch")
plt.ylabel("loss")
plt.show()

 不太理解为啥要经过这么多次线性变换,另外模拟出来的结果好像,越变越差了?

 这是只有一次线性变换的结果

数据集应该没搞错了,是看着老师视频弄得。

所以是饱和函数选取不对?

换了老师说的ReLU激活函数,全是错。重试了一遍,又不报了。

今天我灵感大发,重写:

from ast import Return
from operator import itemgetter
from pickletools import optimize
import numpy.matlib
import torch
import numpy as np
import matplotlib.pyplot as plt

#这一步跟老师写的完全不一样,不明白老师是如何同时读取两个数据的,另外相对路径找不到只能写绝对路径而且要换成双斜杠
x_yuan=np.loadtxt("C:\\anaconda_3\\Lib\\site-packages\\sklearn\\datasets\\data\\diabetes_data.csv.gz",delimiter=' ',dtype=np.float32)
y_yuan=np.loadtxt("C:\\anaconda_3\\Lib\\site-packages\sklearn\\datasets\\data\\diabetes_target.csv.gz",delimiter=' ',dtype=np.float32)
x_data=torch.from_numpy(x_yuan)
y_data=torch.from_numpy(y_yuan)
#y_data=y_data.view(422,1)
print(x_yuan.shape)
class Model(torch.nn.Module):
    def __init__(self) :
        super(Model,self).__init__()
        self.linear1=torch.nn.Linear(10,6)#维度报错,这里老师给的和数据不一致修改一下
        self.linear2=torch.nn.Linear(6,4)
        self.linear3=torch.nn.Linear(4,1)
        self.sigmoid=torch.nn.Sigmoid()
        '''self.activate=torch.nn.Sigmoid'''

    def forward(self,x):
        x=self.sigmoid(self.linear1(x))
        x=self.sigmoid(self.linear2(x)) 
        '''x= torch.tensor(x)'''
        x=self.sigmoid(self.linear3(x))
        x= x.squeeze(-1) #计算出来的数据是422*1的矩阵,与输入为一维张量不符,需要降维
        return x #避免出现参数传递错误,就不设置新参数而是选择x自动代换

model=Model()

sunshi=torch.nn.BCELoss(size_average=True)
youhua=torch.optim.SGD(model.parameters(),lr=0.1)

y_new=torch.sigmoid(y_data)
e_ch=[]
loss_l=[]
for epoch in range(100):
    y_pred=model(x_data)
    loss = sunshi(y_pred,y_new)
    print(epoch,loss.item())
    e_ch.append(epoch)
    loss_l.append(loss.item())

    youhua.zero_grad()
    loss.backward()

    youhua.step()

plt.plot(e_ch,loss_l)
plt.xlabel("epoch")
plt.ylabel("loss")
plt.show()

其实就多了一行,但是图像

ok,任务结束。 

PyTorch是一个广泛使用的深度学习框架,对于多维输入的多分类问题,它提供了强大的工具和灵活性。多维输入通常指的是模型接受的数据具有多个通道或维度,比如图像数据,其通常有宽度、高度和通道数(RGB)。多分类则意味着模型需要预测多个类别中的一个。 在PyTorch中,处理多维输入多分类的方式通常包括以下几个步骤: 1. 数据预处理:将输入数据转换成适合模型的张量格式,例如使用`torch.tensor`或`torchvision.transforms`对图像进行缩放、归一化等操作。 2. 定义网络架构:使用PyTorch的`nn.Module`类创建一个卷积神经网络(CNN)或其他适合处理多通道数据的模型。网络结构可能包含卷积层、池化层、全连接层,最后通常是带softmax激活的输出层,用于多类别分类。 3. 定义损失函数:对于多分类任务,通常使用交叉熵损失(`nn.CrossEntropyLoss`),它考虑了每个类别的概率分布。 4. 训练模型:设置优化器(如`torch.optim`中的SGD、Adam等)并调用`model.train()`进入训练模式。在每个训练迭代中,前向传播、计算损失、反向传播和参数更新。 5. 验证和评估:在验证集上定期评估模型性能,使用`model.eval()`进入验证模式,防止参数更新影响评估结果。 相关问题-- 1. 如何在PyTorch中构建一个多通道的卷积神经网络? 2. 除了交叉熵损失,还有哪些损失函数可以用于多分类问题? 3. 在多分类任务中,如何使用PyTorch的`nn.functional.softmax`进行类别概率计算?
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值