11、机器学习中的随机森林与提升算法应用

机器学习中的随机森林与提升算法应用

1. 隔离森林算法

隔离森林（Isolation forest）是基于决策树的另一种算法，用于异常值和离群点检测。该算法基于离群数据点较为罕见的假设。

与随机森林不同，隔离森林算法的工作方式如下：
- 创建一系列决策树。
- 计算在树中隔离一个观测值所需的路径长度。孤立的观测值（即异常值）更容易分离，因为区分它们与正常情况所需的条件较少。所以，异常值的路径比正常观测值短，会更靠近树的根节点。
- 创建多个决策树后，对分数求平均值，以此判断哪些观测值是真正的异常值。

隔离森林的优点是不使用任何距离或密度度量来检测异常，与基于距离和密度的方法相比，显著降低了计算成本。在 scikit-learn 中，可以使用 sklearn.ensemble.IsolationForest 实现该算法，具体链接为：https:/​/​bit.​ly/​2DCjGGF 。

2. 使用H2O实现随机森林预测信用卡违约

H2O是一个开源的分布式机器学习平台，可在大型数据集上构建机器学习模型。它支持监督和无监督算法，速度极快、可扩展且易于实现。其REST API允许从R和Python等外部程序访问所有功能，Python中的H2O设计与 scikit-learn 非常相似。

2.1 准备工作

• 安装Java ：H2O运行必须依赖Java，在Jupyter中使用以下命令安装：