数据、代码等相关资料来源于b站日月光华老师视频,此博客作为学习记录。
在【9】中,对多层感知机的训练进行了学习,但如果还需要添加准确率的信息呢?并且,对于训练数据不错并不代表对未知数据好不好,所以还需要防止过拟合的问题。
一、划分数据集
- 过拟合:对已知数据训练很好,但对未知数据训练很差。
- 欠拟合:对已知数据训练不够表现不佳,对未知数据也很差。
那么需要对数据进行划分,搞一部分不参与训练,该部分数据对于模型来说可以看作未知,因此可以作为未知数据进行验证。
使用库sklearn。
用以下语句可以进行调用:from sklearn.model_selection import train_test_split
返回四个值:train_x , test_x , train_y , test_y
默认把数据中的25%划分为验证数据。
值得注意的是,此时的train_x , test_x , train_y , test_y还是ndarray,需要转化成tensor再利用【9】中所学的dataset和dataloader进行数据的包装。
# 数据集的划分 sklearn
from sklearn.model_selection import train_test_split
train_x, test_x, train_y, test_y = train_test_split(X_data, Y_data)
train_x = torch.from_numpy(train_x).type(torch.float32)
train_y = torch.from_numpy(train_y).type(torch.float32)
test_x = torch.from_numpy(test_x).type(torch.float32)
test_y = torch.from_numpy(test_y).type(torch.float32)
# dataset和dataloader的包装
from torch.utils.data import TensorDataset
from torch.utils.data import DataLoader
train_ds = TensorDataset(train_x, train_y)
train_dl = DataLoader(train_ds, batch_size=batch, shuffle=True)
test_ds = TensorDataset(test_x, test_y)
test_dl = DataLoader(test_ds, batch_size=batch) # 测试数据乱序没有意义
二、添加正确率
2.1训练代码再改进
对激活函数的部分,其实训练时没有调用可训练的参数,只是对数据进行了一个变化,那么在初始化的时候还对激活函数进行初始化是累赘且没啥用的,可以用function方法进行改进。
首先在开头导入库的部分添加:import torch.nn.functional as F,那么在后面写训练代码部分的时候在初始化的地方就不需要进行激活函数的初始化了,使用F.relu(x)就可以啦。
F相对于nn来说是一种稍低阶的方法,对激活函数这样写与原来是完全等价的。
以前的代码:
class Model(nn.Module):
def __init__(self):
super().__init__() # 继承父类的所有属性
self.linear_1 = nn.Linear(20, 64) # 输入20列的特征(数据集决定),输出为64(假设给64个隐藏层)
self.linear_2 = nn.Linear(64, 64) # 接上层64输入,输出64维
self.linear_3 = nn.Linear(64, 1) # 因为是逻辑回归,只要一个输出
self.relu = nn.ReLU()
self.sigmoid = nn.Sigmoid()
def forward(self, input):
x = self.linear_1(input)
x = self.

本文介绍了如何在PyTorch中通过sklearn库划分数据集来防止过拟合,使用TensorDataset和DataLoader处理数据,并改进多层感知机模型,添加准确率计算。通过训练和测试数据的损失及准确率来监控模型性能。
最低0.47元/天 解锁文章
1832

被折叠的 条评论
为什么被折叠?



