本文介绍了决策树的修剪方法，包括事前修剪和事后修剪，重点讲解了事后修剪的成本复杂度策略。通过R语言展示了如何实现决策树的构建和修剪，以及如何提取决策树规则，总结了不同决策树算法的适用数据类型。
目录
在上一篇我们介绍了，决策树的数据准备与决策树的生长，也用一个小例子手动计算了决策树的生长分支过程。常用的分支准则方法有三种：信息增益、信息增益率、基尼系数。其实，这里问题就来了，决策树是可以不加限制的生长到有可能到很深的吗？当然是不行的，这就是这一节需要介绍的主要内容之一决策树的修剪，当然还会对决策树算法规律稍微总结一下，并用几个小例子说明R语言的具体实现。
决策树的修剪
单单根据决策树算法完成树的建立后，各个叶节点代表不同的种类，部分叶节点可能只包含少数样本，有可能还是一些异常数据，没有足够的支持度，增加了树的深度，过度适配也会导致分类错误率的增加。这就需要修剪决策树，原理是：从树的底部开始，检查每个节点和该节点的子决策树，看是否能将该子决策树去掉而该节点就自然成为了叶节点代替原来的子决策树，生成一个分类错误率更低、树的深度更低的决策
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
