2、知识发现：概念、方法与工具应用

知识发现：概念、方法与工具应用

1. 知识发现基础概念

知识发现是一个半自动化的过程，它严重依赖计算工具，但分析师的指导不可或缺。分析师提供领域专业知识，并以一种可以使用计算工具解决的方式来制定发现任务。同时，分析师还需决定模型何时合适，何时无法以有用或有洞察力的方式总结数据。

1.1 归纳学习

归纳学习是机器学习中的一个核心概念。给定以训练集形式存在的有限数据，我们试图归纳出一个函数，该函数能在整个数据宇宙中近似原始的标记过程。也就是说，我们从训练集 D 中的特定实例推广到整个数据宇宙 X。归纳学习的核心假设是训练集能够准确代表整个数据宇宙，这一假设在归纳学习假设中得到了正式表述：在足够大的训练示例集上能很好近似目标函数的任何函数，在未观察到的示例上也能很好地近似目标函数。

以黑天鹅问题为例，设集合 X 表示所有可能的天鹅（包括黑天鹅和白天鹅），集合 D 是机器学习算法的训练集。从这个训练集中，学习算法可能推断出所有天鹅都是白色的模型，即对于所有 x ∈ X，ˆf (x) = 白色。但实际上，原始过程 f : X → {白色, 黑色} 会将大多数天鹅标记为白色，同时也会将一些天鹅标记为黑色。如果世界上 99% 的天鹅是白色的，那么这个模型在整个数据宇宙中的准确率为 99%，从近似天鹅颜色的角度来看，它是一个相当不错的模型，但对于回答关于天鹅颜色的科学问题来说，它可能不是一个好的选择。

1.2 模型表示

为了使目标函数 f 的近似 ˆf 可计算，我们需要合适的模型表示。通常，我们考虑两种类型的模型表示：
- 透明表示（或透明模型） ：
-