2、机器学习中的数学符号与概率分布

机器学习中的数学符号与概率分布

在机器学习和模式识别领域，数学是理解和应用各种技术的基础。虽然我们尽量减少数学内容，但一定的微积分、线性代数和概率论知识是必不可少的。下面将详细介绍一些常用的数学符号和概率分布。

1. 数学符号约定

1.1 向量和矩阵表示

• 向量 ：用小写加粗的罗马字母表示，如 $\mathbf{x}$，默认所有向量为列向量。上标 $T$ 表示矩阵或向量的转置，所以 $\mathbf{x}^T$ 是行向量。例如，$\mathbf{w} = (w_1, \ldots, w_M)^T$ 表示一个列向量。
• 矩阵 ：用大写加粗的罗马字母表示，如 $\mathbf{M}$。

1.2 区间表示

• $[a, b]$ 表示从 $a$ 到 $b$ 的闭区间，包括 $a$ 和 $b$ 本身。
• $(a, b)$ 表示对应的开区间，不包括 $a$ 和 $b$。
• $[a, b)$ 表示包括 $a$ 但不包括 $b$ 的区间。

1.3 特殊矩阵和函数表示

• 单位矩阵 ：$M \times M$ 的单位矩阵（也称为单位阵）用 $\mathbf{I} M$ 表示，当维度明确时可缩写为 $\mathbf{I}$。其元素 $I {ij}$ 满足：当 $i = j$ 时，$I_{ij} = 1$；当 $i \neq j$ 时，$I_{ij} =