本文详细探讨了分类问题，包括过分拟合的原因、泛化误差的估计方法、决策树的剪枝策略以及处理分类器过分拟合的手段。介绍了评估分类器的常用方法，如保持法、交叉验证等，并深入讲解了决策树、基于规则的分类、最近邻分类器、贝叶斯分类器、人工神经网络和支持向量机的工作原理、特点及其在处理不平衡数据和多类问题时的策略。此外，文章还提到了组合方法如装袋、提升和随机森林等提高分类准确性的技术。
2、分类
1、过分拟合问题：
造成原因有：（1）噪声造成的过分拟合（因为它拟合了误标记的训练记录，导致了对检验集中记录的误分类）；（2）根据少量训练记录做出分类决策的模型也容易受过分拟合的影响。（由于训练数据缺乏具有代表性的样本，在没有多少训练记录的情况下，学习算法仍然继续细化模型就会产生这样的模型，当决策树的叶节点没有足够的代表性样本时，很可能做出错误的预测）（3）多重比较也可能会导致过分拟合（大量的候选属性和少量的训练记录最后导致了模型的过分拟合）
2、泛化误差的估计：
订阅专栏 解锁全文
扫一扫
评论 1
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
查看更多评论
添加红包
