15、矩阵数学基础与神经网络应用

矩阵数学基础与神经网络应用

1. 矩阵的基础数学背景

在处理矩阵相关的数值计算时，了解其基础数学背景至关重要。下面将结合NumPy示例，快速回顾矩阵的数学背景知识。

1.1 线性和仿射映射

矩阵与向量的乘法对应着线性映射。若在此乘法基础上加上一个向量，就得到了仿射映射。这两种映射都是两个向量空间之间的函数。其最简形式如下：
- 线性映射（函数） ：
- 从实数集 $\mathbb{R}$ 到 $\mathbb{R}$ 的映射：$x \to f(x) = ax$
- 线性映射具有以下性质：
- $f(x + y) = f(x) + f(y)$
- $f(\lambda x) = \lambda f(x)$
- 仿射映射（函数） ：
- 从实数集 $\mathbb{R}$ 到 $\mathbb{R}$ 的映射：$x \to f(x) = ax + b$

1.2 线性函数与向量

线性函数可以扩展到向量。以 $\mathbb{R}^2$ 向量坐标的线性组合为例：
- 从 $\mathbb{R}^2$ 到 $\mathbb{R}^2$ 的映射：
- $\mathbf{x} \to f(\mathbf{x}) = \mathbf{y}$
- $\begin{bmatrix} x_1 \ x_2 \end{bmatrix} \to \begin{bmatrix} a_{11}x_1 + a_{12}x_2 \ a_{21}x_1 + a_{22}x_2 \end{bmatrix} = \b