机器学习-西瓜书-笔记

奥卡姆剃刀（Occam's razor）-----“若有多个假设与观察一致，则选最简单的那个”

多释原则（principle of multiple） -----“主张保留与经验 观察一致的所有假设”

基本术语

错误率：把分类错误的样本数占样本总数的比例。

m个样本中有a个样本分类错误，，，错误率为E=a/m

1-a/m称位“精度”

精度=1-错误率

 

过拟合：当学习器把训练样本学得“太好”了得时候，很可能已经把训练样本自身的一些特点当作了所有潜在样本都会具有的一般特质，这样就会导致泛化性能下降。