xusworld的专栏

内容来自国内机器学习大牛周志华《机器学习》一书。集成学习（ensemble learning）通过构建并结合多个学习器来完成学习任务。典型的集成学习结构如下:通过训练数据产生一组个体学习器，然后使用某种结合策略将个体学习器组结合起来。其中，个体学习器通常由一个现有的学习算法从训练数据中产生，如决策树算法、神经网络算法等。根据个体学习器类型的相同与否将集成分为同质集成和异质集成。同质集成即待集成的个...

1. 什么是随机森林?随机森林是一种多功能的机器学习算法，能够执行回归和分类的任务。同时，它也是一种数据降维手段，用于处理缺失值、异常值以及其他数据探索中的重要步骤，并取得了不错的成效。另外，它还担任了集成学习中的重要方法，在将几个低效模型整合为一个高效模型时大显身手。在随机森林中，我们将生成很多的决策树，并不像在CART模型里一样只生成唯一的树。当在基于某些属性对一个新的对象进行分类判别时，随机...