11、机器学习中的随机森林、孤立森林与提升算法应用

机器学习中的随机森林、孤立森林与提升算法应用

1. 孤立森林算法

孤立森林（Isolation Forest）是基于决策树构建的算法，用于异常值和离群点检测。其核心假设是离群数据点较为罕见。

与随机森林不同，孤立森林的工作方式如下：
- 构建一系列决策树。
- 计算在树中隔离一个观测值所需的路径长度。由于孤立的观测值（即异常值）更容易分离，区分它们与正常情况所需的条件较少，所以异常值在树中的路径比正常观测值短，更靠近树的根节点。
- 创建多个决策树后，对分数进行平均，以此判断哪些观测值是真正的异常值。

孤立森林的优势在于不使用任何距离或密度度量来检测异常，与基于距离和密度的方法相比，显著降低了计算成本。在 scikit-learn 中，可以使用 sklearn.ensemble.IsolationForest 实现该算法，具体链接为：https:/​/​bit.​ly/​2DCjGGF 。

2. 使用H2O实现随机森林预测信用卡违约

H2O是一个开源的分布式机器学习平台，可在大型数据集上构建机器学习模型。它支持监督和无监督算法，速度极快、可扩展且易于实现。其REST API允许从R和Python等外部程序访问所有功能，Python中的H2O设计与 scikit-learn 非常相似。

H2O能为企业带来快速机器学习的原因如下：
- 核心代码用Java编写。
- 内部使用分布式键/值存储来跨所有节点和机器访问和引用数据、模型、对象等。
- 算法基于H2O的分布式Map/R