橘露源的博客

1. 避免过拟合 overfitting即过拟合，典型的表现为训练集损失远远小于验证集损失。而欠拟合则表现为训练集损失大于验证集损失。 要清楚远远大于的概念，如果训练集损失只比验证集损失多一点点的话，同等数量级(例如0.8与0.9)这种情况下并不是过拟合的表现。我们一般遇到的过拟合应该是0.8(训练集损失)与2.0(验证集损失)这种差距很大或者明显不在一个量级的损失比。 方法：使用Drop...

计算待训练参数数量 1、定义神经网络 设定简单的卷积神经网络，只有一个卷积层和一个全连接层。 卷积层为6个3×3的卷积核 输入图片为大小为1×1×32×32 从代码的角度来理解： class Net(nn.Module): def __init__(self): # nn.Module子类的函数必须在构造函数中执行父类的构造函数 super(Net, s...