数据挖掘（异常检测）task5-高维异常检测

高维异常检测

随机森林是最流行和功能最强大的机器学习算法之一

介绍用于估计样本统计量的自举方法。
介绍Bagging，可从单个训练数据集中创建多个不同的模型。
介绍随机森林算法对Bagging进行了一些细微调整，并产生了非常强大的分类器。

bootstrap

介绍bagging前，先介绍bootstrap,是一种强大的统计方法，用于从数据样本中估计数量。如果数量是描述性统计量（例如平均值或标准偏差），则最容易理解。

假设我们有一个100个值（x）的样本，并且希望获得样本平均值的估计值。

我们可以直接从样本中计算出平均值，如下所示：

                      均值（x）= 1/100 *和（x）

我们知道我们的样本很小，并且我们的均值存在误差。我们可以使用引导程序来改善均值的估计：
1、创建具有替换数据集的许多（例如1000个）随机子样本（这意味着我们可以多次选择相同的值）。
2、计算每个子样本的平均值。
3、计算所有收集的均值的平均值，并将其用作数据的估计均值。
例如，假设我们使用了3次重采样，得到的平均值分别为2.3、4.5和3.3。取这些平均值，我们可以得出数据的估计平均值为3.367。

此过程可用于估计其他量，例如标准偏差，甚至估计机器学习算法中使用的量，例如学习系数。

Bagging

Bagging是一种简单且功能强