树的剪枝(pruning)算法

最新推荐文章于 2025-04-07 09:00:00 发布

FeynmanWang

最新推荐文章于 2025-04-07 09:00:00 发布

阅读量2k

点赞数

CC 4.0 BY-SA版权

分类专栏：学习笔记

本文链接：https://blog.youkuaiyun.com/feynmanwang/article/details/47056487

本文探讨了决策树的剪枝算法，旨在减少过拟合。算法通过计算每个节点的经验熵，然后从叶节点向上回缩，依据损失函数的变化决定是否剪枝。策略主要关注最小化整体损失函数，以实现更优的模型泛化能力。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

算法：

$\qquad$ 输入：生成算法产生的整个树 $T$ ，参数 $\alpha$ ；
$\qquad$ 输出：修剪后的子树 $T_\alpha$ .
$\qquad$ (1) 计算每个结点的经验熵。
$\qquad$ (2) 递归地从树的叶节点向上回缩。
$\qquad\quad$ 设一组叶结点回缩到其父结点之前与之后的整体树分别为 $T_B$ 与