机器学习 第一章 绪论

1.1 引言

机器学习学科定义：研究如何通过计算手段，利用经验改善系统自身性能。
主要内容：从数据产生模型的算法。（经验以数据形式存储）
学习算法基于数据产生模型；出现新情况，模型提供相应判断。

1.2 基本术语

学习就是要得到一个从输入到输出的映射。
样本独立同分布。

1.3 假设空间

假设的表示一旦确定，假设空间以及其规模大小就确定了。
通配符也是一种状态。
图1.2 基于是，学习出最下层，否学习出上层

1.4 归纳偏好

用于解决学习出的结果冲突问题。
任意一个机器学习算法必须有归纳偏好。
奥卡姆剃刀，选偏好。
NFL定理有前提，问题的分布是均匀的。所以，我们的算法一个是针对我们要解决的问题的。
归纳偏好和问题一定要匹配。

1.5 发展历程

始于1950，兴于1980。