本文介绍了决策树的基本原理，通过实例展示了如何利用ID3算法进行分类。ID3算法利用信息熵和信息增益来选择最优属性，但易受属性值数量影响且仅适用于离散数据。在构建决策树时，可能会进行剪枝操作以提高模型质量。
决策树
决策树是一个预测模型，它代表的是对象属性与对象值之间的一种映射关系。树中每个节点表示某个对象，而每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应从根节点到该叶节点所经历的路径所表示的对象的值。
这张图很好地解释了决策树：
明天要不要出去玩？
- 晴天：
- 潮湿：不出去
- 不潮湿：出去
- 阴天：出去玩
- 雨天：
- 刮风：不出去
- 不刮风：出去
例子中可以找到两层的分类依据属性，第一层是晴/阴/雨，第二层是是否潮湿和是否刮风，分类依据的确定和先后顺序对决策树的质量有决定性的影响。另外，在实际构造决策树时，经常要进行剪枝，主要是因为数据
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
