【10】MLP-数据划分验证数据并添加正确率

本文介绍了如何在PyTorch中通过sklearn库划分数据集来防止过拟合,使用TensorDataset和DataLoader处理数据,并改进多层感知机模型,添加准确率计算。通过训练和测试数据的损失及准确率来监控模型性能。

数据、代码等相关资料来源于b站日月光华老师视频,此博客作为学习记录。

在【9】中,对多层感知机的训练进行了学习,但如果还需要添加准确率的信息呢?并且,对于训练数据不错并不代表对未知数据好不好,所以还需要防止过拟合的问题。

一、划分数据集

  • 过拟合:对已知数据训练很好,但对未知数据训练很差。
  • 欠拟合:对已知数据训练不够表现不佳,对未知数据也很差。

那么需要对数据进行划分,搞一部分不参与训练,该部分数据对于模型来说可以看作未知,因此可以作为未知数据进行验证。
使用库sklearn
用以下语句可以进行调用:from sklearn.model_selection import train_test_split
返回四个值:train_x , test_x , train_y , test_y
默认把数据中的25%划分为验证数据。

值得注意的是,此时的train_x , test_x , train_y , test_y还是ndarray,需要转化成tensor再利用【9】中所学的dataset和dataloader进行数据的包装。

# 数据集的划分   sklearn
from sklearn.model_selection import train_test_split
train_x, test_x, train_y, test_y = train_test_split(X_data, Y_data)
train_x = torch.from_numpy(train_x).type(torch.float32)
train_y = torch.from_numpy(train_y).type(torch.float32)
test_x = torch.from_numpy(test_x).type(torch.float32)
test_y = torch.from_numpy(test_y).type(torch.float32)
# dataset和dataloader的包装
from torch.utils.data import TensorDataset
from torch.utils.data import DataLoader
train_ds = TensorDataset(train_x, train_y)
train_dl = DataLoader(train_ds, batch_size=batch, shuffle=True)
test_ds = TensorDataset(test_x, test_y)
test_dl = DataLoader(test_ds, batch_size=batch)    # 测试数据乱序没有意义

二、添加正确率

2.1训练代码再改进

对激活函数的部分,其实训练时没有调用可训练的参数,只是对数据进行了一个变化,那么在初始化的时候还对激活函数进行初始化是累赘且没啥用的,可以用function方法进行改进。
首先在开头导入库的部分添加:import torch.nn.functional as F,那么在后面写训练代码部分的时候在初始化的地方就不需要进行激活函数的初始化了,使用F.relu(x)就可以啦。
F相对于nn来说是一种稍低阶的方法,对激活函数这样写与原来是完全等价的。
以前的代码:

class Model(nn.Module):
    def __init__(self):
        super().__init__()   # 继承父类的所有属性
        self.linear_1 = nn.Linear(20, 64)  # 输入20列的特征(数据集决定),输出为64(假设给64个隐藏层)
        self.linear_2 = nn.Linear(64, 64)  # 接上层64输入,输出64维
        self.linear_3 = nn.Linear(64, 1)   # 因为是逻辑回归,只要一个输出
        self.relu = nn.ReLU()
        self.sigmoid = nn.Sigmoid()
    def forward(self, input):
        x = self.linear_1(input)
        x = self.
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

要努力的小菜鸟

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值