12、数据挖掘方法与特征子集选择全解析

数据挖掘方法与特征子集选择全解析

在数据挖掘领域，模型评估和特征子集选择是至关重要的环节，它们直接影响着分类模型的性能和效率。下面将详细介绍相关的方法和算法。

1. 模型评估方法

• 灵敏度与特异性 ：在二分类问题中，有时系统需要高灵敏度而非高特异性。以癌症诊断为例，系统能以高概率推断出“无癌症”的阴性诊断，而“癌症”的阳性诊断则需要进一步修正。从人力、经济和诊断的角度来看，准确筛选出阴性病例更为重要。
• 测试 - 训练策略 ：当有足够大且具有代表性的样本集时，可基于测试 - 训练策略计算错误率。具体操作如下：
  1. 将数据集划分为设计数据集和测试数据集，二者相互独立。
  2. 根据设计数据集学习模型。
  3. 测试数据集包含未用于设计模型的样本，若模型能正确预测这些样本的结果，则表明其具有良好的泛化能力。
  4. 再次将设计数据集应用于模型并测量错误率，可评估模型的表示能力，但通常更关注模型对未见样本的预测能力。

graph LR
    A[数据集] --> B[设计数据集]
    A --> C[测试数据集]
    B --> D[学习模型]
    D --> E[应用于测试数据集]
    E --> F[评估泛化能力]
    D --> G[再次应用于设计数据集]
    G --> H[评估表示能力]