学习笔记 | 机器学习-周志华 | 5_np机器学习是什么-优快云博客

本文链接：https://blog.youkuaiyun.com/zko1021/article/details/84846501

本文介绍了模型评估与选择的重要概念，如经验误差、过拟合与欠拟合，详细讨论了留出法、交叉验证法、自助法等评估方法，并探讨了性能度量如查准率和查全率在模型选择中的作用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

第二章模型评估与选择

2.1 经验误差与过拟合

"错误率" (error rate) ，即如果在 m 个样本中有 α 个样本分类错误，则错误率 E= α/m;
1 一 α/m 称为**“精度” (accuracy)** ，即"精度 =1 - 错误率"
更一般地，把学习器的实际预测输出与样本的真实输出之间的差异称为"误差" (error),学习器在训练集上的误差称为"训练误差" (training error)或"经验误差" (empirical error) ，在新样本上的误差称为"泛化误差" (generalization error).
在训练集上表现很好的学习器，例如甚至对所有训练样本都分类正确，即分类错误率为零，分类精度为 100%，但这样的学习器在多数情况下都不好.
当学习器把训练样本学得"太好"了的时候，很可能巳经把训练样本自身的一些特点当作了所有潜在样本都会具有的一般性质，这样就会导致泛化性能下降这种现象在机器学习中称为"过拟合" (overfitting). 与"过拟合"相对的是"欠拟合" (underfitting) ，这是指对训练样本的一般性质尚未学好.
NP问题是指存在多项式算法能够解决的非决定性问题，而其中NP完全问题又是最有可能不是P问题的问题类型。所有的NP问题都可以用多项式时间划归到他们中的一个。所以显然NP完全的问题具有如下性质：它可以在多项式时间内求解，当且仅当所有的其他的NP－完全问题也可以在多项式时间内求解。
NP完全问题(NP-C问题)，是世界七大数学难题之一。 NP的英文全称是Non-deterministic Polynomial的问题，即多项式复杂程度的非确定性问题。简单的写