16、不平衡分类中的过采样和欠采样组合方法

不平衡分类中的过采样和欠采样组合方法

在不平衡分类问题中，数据采样方法是改变训练数据集类别分布的有效手段。过采样方法通过复制或创建少数类的新合成样本来增加少数类样本数量，而欠采样方法则通过删除多数类的样本来减少多数类样本数量。单独使用这两种采样方法都可能有效，但将它们结合使用往往能取得更好的效果。本文将详细介绍如何结合过采样和欠采样技术来处理不平衡分类问题。

1. 教程概述

本教程分为三个部分：
1. 二元测试问题和决策树模型
2. 手动组合数据采样方法
3. 标准组合数据采样方法

2. 二元测试问题和决策树模型

在深入探讨过采样和欠采样方法的组合之前，我们需要定义一个合成数据集和模型。

2.1 定义合成二元分类数据集

我们可以使用 scikit-learn 库中的 make_classification() 函数来定义一个合成二元分类数据集。以下是创建一个包含10,000个样本、两个输入变量且类别分布为1:100的数据集的示例代码：

# define dataset
from sklearn.datasets import make_classification
X, y = make_classification(n_samples=10000, n_features=2, n_redundant=0,
                           n_clusters_per_class=1, weights=[0.99], fl