2、机器学习：概念、应用与学习范式

机器学习：概念、应用与学习范式

1. 机器学习中的先验知识与归纳偏置

在学习过程中，先验知识的融入起着关键作用。以大鼠和鸽子的实验为例，当大鼠食用某种食物后紧接着遭受不愉快的电击时，它们并不会倾向于避开该食物；当暗示恶心的食物特征（如味道或气味）被声音信号取代时，同样的条件反射失败情况也会出现。这表明大鼠似乎具有某种“内置”的先验知识，即食物与恶心之间的时间关联可能存在因果关系，但食物消费与电击或声音与恶心之间不太可能存在因果关系。

而鸽子在实验中愿意接受任何关于食物出现的解释。这种差异体现了先验知识对学习机制的影响，也就是归纳偏置。大鼠的学习过程会偏向于检测某些模式，而忽略事件之间的其他时间关联。

融入先验知识、对学习过程进行偏置，对于学习算法的成功是不可避免的。一般来说，学习过程开始时所具备的先验知识（或先验假设）越强，从后续示例中学习就越容易。然而，这些先验假设越强，学习的灵活性就越低，因为它从一开始就受到这些假设的限制。

2. 何时需要机器学习

当面临以下两种情况时，我们更需要使用机器学习而非直接对计算机进行编程来执行手头的任务。
- 任务复杂度高
- 人类/动物执行的任务 ：人类日常执行的许多任务，如驾驶、语音识别和图像理解等，我们很难通过内省来提取出一个明确的程序。但基于机器学习的程序，在接触足够多的训练示例后，能够取得相当令人满意的结果。
- 超越人类能力的任务 ：涉及分析非常庞大和复杂的数据集的任务，如天文数据、将医学档案转化为医学知识、天气预报、基因组数据分析、网络搜索引擎和电