2、代表性数据集的选择与处理

代表性数据集的选择与处理

在数据科学和机器学习领域，数据集的选择、评估、划分以及实例选择和类别平衡等操作对于模型的构建和性能评估至关重要。下面将详细介绍这些方面的相关知识。

1. 基本概念

1.1 数据集相关定义

• 总体（Population） ：所有现有特征向量（特征）的集合。
• 样本集（Sample Set） ：用 S 表示，是总体的一个子集，通过某种过程收集以获取能代表总体的实例。
• 代表性集合（Representative Set） ：记为 S*，是原始数据集 S 的一个特殊子集，需满足三个主要特征：
  1. 与原始数据集相比，规模显著更小。
  2. 与相同规模的任何子集相比，能从原始数据集中捕获大部分信息。
  3. 所含代表之间的冗余度低。
• 训练集（Training Set） ：理想情况下是总体的代表性集合，用 R 表示。通常我们只有总体的随机样本集，需采用各种方法使其尽可能具有代表性。
• 最小一致子集（Minimal Consistent Subset） ：给定训练集 R，希望得到一个子集 R ⊂R，使得 R 是最小的实例集，且 Acc(R*) ≈ Acc(R)，其中 Acc(X) 表示使用 X 作为训练集获得的分类准确率。
• 验证集（V