数据不平衡之SMOTE算法

在企业的数据分析中，很少会遇到正负样本数据比例平衡的状况。通常情况是，绝大多数为正样本，而只有极少数（几个或者十几个）负样本。在这种情况下，不论是用LR，SVM或者基于提升方法的随机森林，直接用该数据集进行学习的效果都不会太好，原因是这些方法的学习结果都会偏向于样本较多的一类。另一个方面，对学习结果进行评估时，假如正样本占95%，负样本仅占5%，这样甚至不需要学习，直接把所有新样本预测为正，准确率就可以达到95%，而召回率却很低。因此，在学习一个模型前，处理不平衡的数据是十分必要的。

怎么让不平衡的数据变平衡呢？主要有两个方法，一是欠抽样，顾名思义就是删除正样本（以正样本占绝大多数为例）中的样本，删除的数量根据负样本的数量而定，这种方法的缺点也很明显，会删除正样本所带的信息，当正负样本的比例悬殊时，需要删除较多的正样本数量，这会减少很多正样本携带的信息。因此，最常用的方法是第二种——过抽样。

一种过抽样的方法是随机采样，采用简单随机复制样本来增加负样本的数量。这样容易产生模型的过拟合问题，即使得模型学习到的信息过于特别而不够泛化。另一种过抽样的方法就是要介绍的SMOTE算法，其基本思想是对少数类样本进行分析并根据少数类样本人工合成新样本添加到数据集中，算法流程如下。