（《机器学习》完整版系列）第15章规则学习——15.1 命题规则（逻辑学、布尔表达）

原创

已于 2023-03-31 11:09:18 修改 · 504 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习 #算法 #人工智能

于 2023-03-21 17:28:03 首次发布

规则学习涉及对样本的标记规律进行归纳，形成逻辑规则，如条件到结论的命题形式。条件与结论间存在蕴涵关系，条件可能包含多个子条件。在二分类问题中，结论通常表示正例，条件是若干子条件的合取。文章还讨论了析合范式在表达假设空间中的应用，以及如何通过消除极端情况来简化预测器的构建。

规则学习：对样本的标记规律进行归纳总结、并进行演绎推理，得出（逻辑）规则。
以命题形式的规则表达，由“条件”得到“结论”。
从集合论的角度来看，具有蕴涵（包含）关系。
“条件”可能分解为若干“子条件”，需要它们同时成立。
通过真值表可以定义语义。

命题规则

首先，我们看以命题形式的规则表达
$\begin{align} \text{if\ (条件)\ then\ (结论)} \tag{15.1} \end{align}$

式(15.1)中由“条件”得到“结论”，从集合论的角度来看，该“条件”除了能得到该“结论”外，可能还会得到其他什么结论，故具有蕴涵（包含）关系
$\begin{align} \text{结论$\subseteq$条件} \tag{15.2} \end{align}$
用逻辑学中的符号，则为
$\begin{align} \text{“结论”$\leftarrow$“条件”} \tag{15.3} \end{align}$

对于二分类问题，“结论”通常取“正例”（或“正例集”），用 $\bigoplus$ 表示，而“条件”可能分解为若干“子条件”，需要它们同时成立，这时，上述两式分别为
$\begin{align} \oplus \subseteq \boldsymbol{f}_1\cap \boldsymbol{f}_2\cap \cdots \cap \boldsymbol{f}_L \tag{15.4} \end{align}$
$\begin{align} \oplus \leftarrow \boldsymbol{f}_1\land \boldsymbol{f}_2\land \cdots \land \boldsymbol{f}_L \tag{15.5} \end{align}$