11、机器学习中的随机森林、孤立森林与提升算法应用

机器学习中的随机森林、孤立森林与提升算法应用

1. 孤立森林算法

孤立森林（Isolation forest）是一种基于决策树的算法，用于异常值和离群点检测。其核心假设是离群数据点较为罕见。

与随机森林不同，孤立森林创建一组决策树，然后计算在树中隔离一个观测值所需的路径长度。孤立的观测值（即异常值）更容易分离，因为区分它们与正常情况所需的条件较少。因此，异常值的路径比正常观测值短，更靠近树的根。当创建多个决策树时，对分数进行平均，从而确定哪些观测值是真正的异常值。

此外，孤立森林不使用任何距离或密度度量来检测异常，与基于距离和密度的方法相比，显著降低了计算成本。在scikit - learn中，可以使用 sklearn.ensemble.IsolationForest 来实现该算法，具体实现链接为：https://bit.ly/2DCjGGF 。

2. 使用H2O实现随机森林预测信用卡违约

H2O是一个开源的分布式机器学习平台，可用于在大型数据集上构建机器学习模型。它支持监督和无监督算法，速度极快、可扩展且易于实现。H2O的REST API允许从R和Python等外部程序访问其所有功能，Python中的H2O设计与scikit - learn非常相似。

2.1 准备工作

• 安装Java ：在Jupyter中使用以下命令安装JRE：

! apt-get install default-jre
! java -version