27、机器学习中的KNN与集成学习方法

机器学习中的KNN与集成学习方法

1. KNN回归的实现

1.1 数据准备

在进行KNN回归时，我们以学习时间与成绩预测为例。首先，需要将学习时间转换为二维数组，同时准备正确答案数量和干扰因素的数据。以下是具体代码：

import numpy as np

hours = np.array(range(0,9)).reshape(-1, 1)
print(hours)
answers = (25, 33, 41, 53, 59, 70, 78, 86, 98)
interrupt = (0, -1, -3, -4, -5, -7, -8, -9, -11)

接着，将正确答案数量和干扰因素组合成一个特征变量：

features = list(zip(answers, interrupt))
print(features)

输出结果为：

[(25, 0), (33, -1), (41, -3), (53, -4), (59, -5), (70, -7), (78, -8), (86, -9), (98, -11)]

1.2 模型训练与预测

使用 sklearn 库中的 KNeighborsRegressor 进行模型训练和预测：