9、机器学习监督学习算法详解

机器学习监督学习算法详解

1. 决策树回归器

决策树可以通过 DecisionTreeRegressor 类轻松应用于回归问题。为了研究决策树如何实现回归能力，我们可以按照以下步骤操作：
1. 打开示例Jupyter Notebook： Chapter 004 Example 017A.ipynb 。
2. 运行整个Notebook。

核心代码如下：

clf = tree.DecisionTreeRegressor(max_features=None, presort=True, 
criterion='mse', random_state=321, splitter='best')

重要的超参数解释：
- criterion='mse' ：均方误差（MSE）作为特征选择标准，等同于方差减少，使用每个终端节点的均值最小化L2损失。
- splitter='best' ：每次都选择最佳分割，虽然会消耗更多处理周期，但能得到更准确的树模型。

决策树回归器（最大深度）

树的另一个可调整超参数是最大深度。以下是操作步骤：
1. 打开示例Jupyter Notebook： Chapter 004 Example 018A.ipynb 。
2. 运行整个Notebook。

核心代码：