18、规则学习：无序规则集、排序与概率估计及描述性规则学习

规则学习：无序规则集、排序与概率估计及描述性规则学习

1. 无序规则集的学习

在规则学习中，有一种替代方法是一次为一个类学习规则。这种方式可以进一步简化搜索启发式，从最小化 min(˙p, 1 - ˙p) 转变为最大化 ˙p，即我们正在学习的类的经验概率，这一搜索启发式通常被称为“精度”。

以海豚示例来说明规则集的学习过程：
- 学习正类规则 ：
- 第一条规则： if Length = 3 then Class = ⊕ ，此规则覆盖了两个正例，之后将这两个例子从训练集中移除。
- 第二条规则：由于剩余候选规则不纯，进行二级搜索，得到规则 if Gills = no ∧ Length = 5 then Class = ⊕ 。
- 第三条规则：为覆盖剩余正例，得到规则 if Gills = no ∧ Teeth = many then Class = ⊕ 。
- 学习负类规则 ：按照相同的过程，得到规则 if Gills = yes then Class = ⊖ 和 if Length = 4 ∧ Teeth = few then Class = ⊖ 。

最终的规则集如下：
|规则编号|规则内容|
| ---- | ---- |
|(R1)| if Length = 3 then Class = ⊕ |
|(R2