周志华《机器学习》学习笔记 Ch01绪论

文章目录：

1.1 引言

1.2 基本术语

1.3 假设空间

1.4 归纳偏好

1.5 发展历程

1.6 应用现状

1.7 习题解答

---

看完了《机器学习实战》，总感觉自己在入门机器学习中还处于似懂非懂阶段。按理说在看西瓜书之前我应该先看一些数学统计相关的书籍，补充基础知识。但想了想，看了的可能很多也不会记得，还不如遇到不懂的便边学边查了。开始学习西瓜书，希望自己能坚持把笔记写下去，加深自己对机器学习的理解。

1.1 引言

     机器学习致力于研究如何通过计算的手段，利用经验来改善系统自身的性能。其所研究的主要内容，是关于在计算机上从数据中产生“模型”的算法，即“学习算法”。机器学习是研究关于“学习算法”的学问。通俗来说，我理解为，通过已知数据研究出预测所需的模型，即函数公式，来进行下一步结果的预测。

        在本书中用“模型”泛指从数据中学得的结果。有文献用“模型”指全局性结果（例如一颗决策树），而用“模式”指局部性结果（例如一条规则）。

1.2 基本术语

1. 属性张成的空间称为“属性空间”，“样本空间”或“输入空间”。

2. 由于空间中的每个点对应一个坐标向量，因此我们也把一个示例称为一个“特征向量”。

3. 若我们预测的是离散值，例如“好瓜”“坏瓜”，此类学习任务称为“分类”；

    若欲预测的是连续值，例如西瓜成熟度0.95，0.37，此类学习任务称为“回归”；

    两个类别的“二分类”任务，分为“正类”和“反类”；

    涉及多个类别时，则称为“多分类”任务。

4. 学习任务大致划分为两大类：“监督学习”和“无监督学习”，分类和回归是前者的代表，而聚类是后者的代表。

5. 学得模型适用于新样本的能力，称为“泛化”能力。

6. 通常假设样本空间中全体样本服从A个未知"分布" (distribution) Ð ， 我们获得的每个样本都是独立
地从这个分布上采样获得的，即"独立同分布" (independent and identically istributed，简称i.i.d.).
1.3 假设空间