10、决策树及其扩展技术在机器学习中的应用与优化

决策树及其扩展技术在机器学习中的应用与优化

1. 决策树流程可视化与预测原理

在决策树分析中，我们当前使用的是默认超参数，不过若能找到更优的超参数组合，预测效果可能会更好。为了深入理解决策树的工作流程，我们可以通过绘制流程图来进行分析。

大多数决策树（DT）包都支持绘制决策树图，这有助于分析师获取有用的见解。在我们的示例中，我们将借助绘图来更好地理解决策树的工作原理。绘图的调用非常简单：

> plot(dtout)

这里的 plot() 是 R 语言的通用函数。上述调用会被分派到 plot.qeDT(dtout) ，而 plot.qeDT(dtout) 又会对 ctout 组件调用 plot() ，最终该调用会被分派到 plot.party() 。

决策树呈现为流程图的形式。例如，对于给定的 Solar.R 、 Wind 等特征值，我们可以通过决策树来预测 Ozone 的值。以预测新点 w 为例，我们从根节点（节点 1）开始，查看 Temp 的值。若 w 的 Temp 值为 67，小于 82 度，则向左移动到节点 2。在节点 2 处，我们判断 Wind