9、深度学习模型评估与交叉验证技术

深度学习模型评估与交叉验证技术

模型评估基础

在深度学习中，评估模型在训练集和测试集上的表现至关重要。通过比较训练集和测试集的错误率，我们可以判断当前模型是否适合给定的数据集。若模型不适合，还能确定是过拟合还是欠拟合，并相应地调整模型。

过拟合与欠拟合处理

• 欠拟合 ：当模型欠拟合时，意味着模型过于简单，无法捕捉数据中的复杂模式。此时，可以通过增大网络规模来解决，例如增加隐藏层的数量或神经元的数量。
• 过拟合 ：过拟合则是模型过于复杂，不仅学习了数据中的模式，还学习了噪声。可以通过缩小网络规模或提供更多的训练数据来减少过拟合。

早停法

有时模型的灵活性对于数据集是合适的，但仍会出现过拟合或欠拟合的情况，这可能是因为训练迭代次数过多或过少。在使用迭代优化器（如梯度下降）时，优化器会在每次迭代中不断尝试更好地拟合训练数据。如果在学习到数据模式后仍继续更新参数，模型就会开始拟合单个数据示例，从而导致过拟合。

通过观察每次迭代中的训练和测试错误率，可以确定网络何时开始对训练数据过拟合，并在过拟合发生之前停止训练过程。可以通过以下代码在 Keras 中存储训练损失和测试损失的值：

history = model.fit(X_train, y_train, validation_data=(X_test, y_test))

后续可以使用以下代码绘制存储的值，以找到训练模型的合适迭代次数