14、概念学习与树模型：原理、应用与挑战

概念学习与树模型：原理、应用与挑战

1. 概念学习概述

概念学习旨在从示例中构建定义一组对象的逻辑表达式，这一问题是早期人工智能研究的重点。以下是概念学习相关的重要概念和方法：

1.1 假设空间结构

假设空间是所有可能概念的集合。每个假设都有其对应的扩展（即它所覆盖的实例集合），扩展之间的关系（如子集关系）会延伸到假设空间，使其具有格结构，即具有最小上界和最大下界的偏序关系。

• 最小泛化泛化（LGG） ：是一组实例的最小上界，是从数据中能学到的最保守的泛化。该概念由Plotkin在一阶逻辑的背景下定义，它是演绎合一操作的数学对偶。
• 内部析取 ：可以通过在特征值之间引入内部析取来扩展假设语言，从而创建一个更大但仍具有格结构的假设空间。这是属性 - 值学习语言中的常见方法。

1.2 完整一致假设与版本空间

完整一致的假设是指能覆盖所有正例且不覆盖任何反例的概念。所有完整一致概念的集合称为版本空间，这一概念由Mitchell引入。

• 版本空间的表示 ：可以通过其最不一般和最一般的成员来概括版本空间，因为在这两个成员之间的任何概念也是完整一致的。也可以通过从最不一般到最一般假设的所有路径来描述版本空间，这些向上的路径会产生一个覆盖曲线，描述路径上每个概念在覆盖正例和反例方面的扩展。
• 封闭概念 ：在特定数据集中，语法不同的概念可能具有相同的扩展，封闭概念是其中最具体的一