37、分类规则与分类器校准：原理、方法与评估

分类规则与分类器校准：原理、方法与评估

1. 分类学习与分类规则

1.1 分类规则概述

分类规则是一种“IF - THEN”规则。规则的条件部分（规则体或前件）通常由布尔项的合取组成，每个布尔项构成一个约束条件，示例必须满足这些条件。当所有约束条件都满足时，规则被触发，该示例被认为被规则覆盖。规则头（也称为后件或结论）由单个类值组成，当规则触发时，该类值即为预测结果。这与关联规则不同，关联规则的头部允许有多个特征。

1.2 规则中的典型项

• 属性值测试 ：测试特定属性值是否存在。
• 数值属性不等式 ：要求观察值高于或低于某个阈值。
• 更具表达力的约束 ：包括集值属性（同一属性的多个值可在训练示例中观察到）、内部析取（同一属性的多个值中只需存在一个）、层次属性（某些属性值包含其他值）等。

1.3 规则的逻辑类型

• 命题规则 ：特征的合取组合可视为命题逻辑中的陈述。
• 一阶规则 ：如果可以考虑特征之间的关系（即可以用一阶逻辑表述命题），则称为一阶规则。

2. 分类器校准

2.1 分类器校准的概念

分类器校准关注的是分类器得分的表达尺度。虽然分类器最终将实例映射到离散类，但通常将这个映射分解为一个输出一个或多个实值数的评分分类器和一个将这些数转换