2、机器学习与深度学习：从基础到深度网络

机器学习与深度学习：从基础到深度网络

1. 监督模型训练算法

监督模型训练算法流程如下：
1. 随机初始化参数 $\vec{w}$ 和 $b$。
2. 当误差 $E_2 = \sum_{i = 0}^{N} (\vec{w}^T\vec{x} i + b - y {gt}^{(i)})^2$ 大于阈值时，执行以下操作：
- 遍历所有训练数据实例。
- 调整 $\vec{w}$ 和 $b$ 以减小 $E_2$。
3. 记录最终的参数值 $\vec{w}^ $ 和 $b^ $ 作为最优值。

在实际应用中，当结果对于待解决的问题足够准确时，通常会停止训练。需要强调的是，这里的误差仅指训练数据上的误差。

训练好的模型（具有最优参数 $\vec{w}^ $ 和 $b^ $）部署后，会接收新的输入 $\vec{x}$，并推断 $y_{predicted}(\vec{x}) = \vec{w}^{ T}\vec{x} + b^ $。通过对 $y_{predicted}$ 进行阈值处理来进行分类。

2. 机器学习的几何视角

在机器学习中，输入和输出可以从几何角度来理解。以猫脑模型为例，输入是一个包含两个数字的数组，分别表示物体的硬度 $x_0$ 和锋利度 $x_1$，可以看作是高维空间中的一个点，这个空间通常称为特征空间。特征空间的维度在实际问题中可能非常高。输出 $y$ 也可以看作是另一个高维空间中的一个点，通常输出空间的维度比输入空间小。

机器学习模型本质上是将特征空间中的一个点映射到输出空间中的一个点。