2、机器学习数学基础与线性代数入门

机器学习数学基础与线性代数入门

1. 机器学习的核心概念与学习策略

在机器学习领域，我们的目标是构建一个在未见过的数据上表现良好的模型。仅仅让模型在已有的训练数据上表现出色，可能只是找到了一种记忆数据的方法，而不一定能很好地泛化到未见过的数据。在实际应用中，机器学习系统常常需要应对从未遇到过的情况。

机器学习的主要概念可总结如下：
- 我们将数据表示为向量。
- 我们通过概率或优化的视角选择合适的模型。
- 我们使用数值优化方法从可用数据中学习，目标是让模型在未用于训练的数据上表现良好。

理解机器学习数学有两种策略：
- 自底向上 ：从基础概念逐步构建到更高级的概念。这种方法在数学等技术领域较为常用。其优点是读者在任何时候都能依靠之前学过的概念，但缺点是许多基础概念本身对从业者来说可能并不特别有趣，缺乏动力会导致大多数基础定义很快被遗忘。
- 自顶向下 ：从实际需求深入到更基本的要求。这种以目标为导向的方法的优点是读者始终知道为什么要学习某个特定概念，并且有明确的知识需求路径。然而，这种策略的缺点是知识建立在可能不稳固的基础上，读者需要记住一组他们无法理解的词汇。

2. 机器学习的数学基础

机器学习的四个支柱（回归、降维、密度估计和分类）需要坚实的数学基础，主要涉及以下几个方面：
| 数学领域 | 简介 |
| ---- | ---- |
| 线性代数 | 研究向量和矩阵，我们将数值数据表示为向量，数据表格表示为矩阵。大多数线性代数算法是在Rn中制定的，我们常将数据表示为Rn中的向量