快速了解机器学习中过采样（SMOTE）问题

目录

为什么要用过采样？

一、过采样

二、SMOTE算法

三、优缺点

四、python代码示例

---

为什么要用过采样？

当我们创建一个逻辑回归模型时，往往会遇到这样一个问题，那就是两类标签的数量相差非常大，可能达到几十万甚至上百万，导致创建的模型往往不是很准确。

那么怎样才能避免或者是尽量减小误差呢？通常可以通过下采样或者过采样进行优化，这里我们就先来学习一种方法——过采样。

一、过采样

过采样是一种处理不平衡数据集的方法，它通过人工合成新的少数类样本，使得少数类样本的数量与多数类样本相当。这样可以提高分类模型对少数类样本的学习能力，从而改善分类性能。这里我们主要介绍SMOTE算法。

二、SMOTE算法

SMOTE（Synthetic Minority Over-sampling Technique）是一种用于处理类别不平衡问题的过采样方法，特别适用于少数类样本数量较少的情况。其基本思想是通过合成新的少数类样本来平衡数据集。

计算公式：

假设我们有一个少数类样本 x 和它的 k 个最近邻样本 {X₁, X₂, ..., Xₖ}。

生成新的合成样本的<