1、机器学习：从感知机到深度学习的探索之旅

机器学习：从感知机到深度学习的探索之旅

1. 机器学习概述

学习的定义颇具难度，人类学习和机器学习之间存在一些相似之处。人类在学习过程中，会通过经验获取知识，进而调整行为倾向。许多机器学习技术源自心理学家和生物学家借助计算模型理解人类学习的努力。

机器学习主要有符号学习和统计机器学习两种方法，二者的主要区别在于信息的表示方式，分别是符号和向量。

1.1 符号学习

符号是人类为简化问题解决过程而构建的概念。它用于指代世界中的其他事物，其定义依赖于结构中的出现情况和操作这些结构的形式语言。在这种情境下，无法衡量符号之间有意义的相似性，只能衡量它们所代表的现实世界对象之间的相似性。

在符号概念获取中，系统通过分析概念的正例和反例来学习符号表示。例如，ARCH程序在积木世界的结构域中，从符号表示的示例中学习概念。场景由三个积木描述，通过对正例和反例的符号图分析，系统可以更新统一的图表示，以排除不符合概念的示例。

1.2 统计机器学习

这种方法直接表示对象，其灵感来源于生物学。我们可以创建一个向量，每个维度对应一个感受器的值，以此来描述对象，就像生物感官器官感知世界的方式一样。

以描述鲈鱼和鲑鱼为例，我们可以用向量表示每条鱼，每个维度对应一个特征并存储其值或存在情况。通过这种表示方式，我们可以使用欧几里得距离函数来衡量对象之间的差异：
[d(x, y) = |x - y| = \sqrt{|x_1 - y_1|^2 + |x_2 - y_2|^2 + \cdots + |x_D - y_D|^2}]

选择正确特征来表示对象的过程称为特征提取。在上述鱼类示