概念学习-候选消除算法-Python实现

原创

于 2018-04-10 14:54:31 发布 · 4.2k 阅读

33 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习 #候选消除

本文介绍了概念学习的基本概念，包括实例空间、概念空间、假设空间和训练集合，并详细阐述了变形空间的定义和作用。接着，讲解了列表消除算法和候选消除算法的原理，通过不断更新极大一般假设和极大特殊假设来逐步缩小搜索空间，以找到满足训练数据的假设。最后，文章提到了实际应用中如何根据训练样例调整G和S集合，以实现候选消除的过程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

本文最后修改时间：20180330

1、概念学习原型

已知
实例空间 X :使用属性描述的实例（定义域）
概念空间 C :目标概念集合（值域）
假设空间 H :假设集合 (各种映射的集合)
训练集合 D :目标概念的正例和反例（已知的点）
$⟨x1,c(x1)⟩,⟨x2,c(x2)⟩,...,⟨xm,c(xm)⟩\langle x_{1} , c(x_{1})\rangle,\langle x_{2} , c(x_{2})\rangle,...,\langle x_{m} , c(x_{m})\rangle$
求解（找到一个一一映射的函数）
假设 h :满足 h $∈H\in\mathcal{H}$ 且 h(x) = c(x) , x $∈D\in\mathcal{D}$
个人理解，举个简单的栗子：二维坐标中，已知两个点的坐标(0,0)、(1,1)，求一个经过这两点的线，比如有直线y=x，2次曲线 $y=x^{2}$ ，还有3次曲线 $y=x^{3}$ ，…， $y=x^{n}$ 。x坐标轴上的点组成的集合就是实例空间X，y坐标轴上的点组成的集合就是概念空间C，这些曲线对应的函数集合就是假设空间H，已知的点坐标就是训练集合D

2、变形空间

定义:一条假设 h 与训练样例集合 $D\mathcal{D}$ 是一致的,当且仅当对 $D\mathcal{D}$ 中每条样例 $⟨x,c(x)⟩\langle x, c(x)\rangle$ 都有,即
$\mathcal{D})\equiv(\forall\langle x, c(x)\rangle\in\mathcal{D})h(x)=c(x))$