10、集成学习：袋装法与随机森林的应用与实现

集成学习：袋装法与随机森林的应用与实现

袋装回归器

袋装回归器与袋装分类器类似，它在原始训练集的随机子集上训练每个回归器模型，并对预测结果进行聚合。由于目标变量是数值型的，因此聚合过程是对多次迭代的结果求平均值。下面我们将展示如何使用自助采样法实现袋装回归器。

准备工作

首先，我们需要导入所需的库：

from sklearn.ensemble import BaggingRegressor
from sklearn.tree import DecisionTreeRegressor
import pandas as pd
from sklearn.model_selection import train_test_split
import matplotlib.pyplot as plt

然后读取数据集 bostonhousing.csv 并查看其维度：

df_housingdata = pd.read_csv('bostonhousing.csv')
print(df_housingdata.shape)

接下来，我们将创建特征集和目标变量集。

具体操作步骤

1. 分离特征和响应集，并划分训练集和测试集 ：

X = df_ho