【21天学习AI底层概念】day14 （kaggle新手入门教程）random forests

一、欠拟合（Underfitting）和过拟合（Overfitting）

所谓欠拟合就是算法没有学习到足够的特征，预测结果较差，即拟合程度不够；过拟合则刚好相反，算法除了学习到一般特征外，也学习到了样本个体的局部特征，即拟合过度。

二、随机森林（random forests）

随机森林使用多棵树，通过平均每棵组成树的预测来进行预测。它通常比单棵决策树具有更好的预测准确率，并且使用默认参数效果很好。如果你继续建模，你可以学习更多性能更好的模型，但其中许多模型对获取正确的参数很敏感。

使用随机森林建模的代码如下，使用RandomForestRegressor，而不是之前的DecisionTreeRegressor

from sklearn.ensemble import RandomForestRegressor
from sklearn.metrics import mean_absolute_error

forest_model = RandomForestRegressor(random_state=1)
forest_model.fit(train_X, train_y)
melb_preds = forest_model.predict(val_X)
print(mean_absolute_error(val_y, melb_preds))

输出：191669.7536453626
如果使用决策树模型，MAE是29w，随机森林的偏差19w明显更小