机器学习与数据挖掘核心方法解析

32、什么是归纳式机器学习？

• 归纳式机器学习 是一种监督学习，也称为从示例中学习。
• 关键概念是 假设 ，由给定算法生成，用于近似概念。
• 算法从教师提供的有限示例中生成假设，假设常以产生式 IF…THEN… 规则表达，规则“覆盖”示例。
• 其过程分为 学习 和 测试 两个阶段：
• 学习阶段 ：分析数据生成树或规则集。
• 测试阶段 ：用新数据评估规则并计算性能指标。
• 可看作 搜索问题 ，寻找最能描述概念的假设；也可看作 设计分类器问题 ，找到包含特定类示例的边界。
• 现有ML算法有多种分类方式，包括：
• 监督与非监督
• 归纳与演绎
• 增量与非增量
• 处理结构化与非结构化数据等。

33、从数据中生成规则的基本方法是什么？

生成规则的基本方法

生成规则的基本方法有多种，主要包括以下几种：

DataSqueezer算法

• 数据约简 ：先对正例矩阵 POS 和负例矩阵 NEG 进行数据约简，得到 GPOS 和 GNEG 。
• 初始化规则集 ：初始化规则集 RULES 。
• 迭代过程 ：
• 计算 GPOS 列中非缺失值的和。
• 选择具有最大和的列，并将对应的选择器添加到规则中。
• 不断迭代，直到 GPOS 为空。

CLIP4算法

该算法分为三个阶段：

第一阶段：预处理

• 对数据进行预处理。
• 选择正例子集。

第二阶段：规则生成

• 从负例数据和选定的正例子集直接生成规则。

第三阶段：规则选择

• 从生成的规则中选择最佳规则集。

规则的泛化与特化

规则还可以通过常见技术进行泛化或