Day7 神经网络的矩阵基础

神经网络的矩阵基础

一、矩阵的基本概念

1. 矩阵的定义与类型

矩阵是一个按照长方阵列排列的复数或实数集合。在神经网络中，矩阵是表示和操作数据的基本结构。常见的矩阵类型包括：

• 方阵：行数和列数相等的矩阵，记作$n\times n$矩阵。
• 行向量：只有一行的矩阵，可以看作是一个$n\times 1$的矩阵。
• 列向量：只有一列的矩阵，可以看作是一个$1\times n$的矩阵。
• 单位矩阵：主对角线上的元素为1，其余元素为0的方阵，记作$E$或$I$。

2. 矩阵的例子

• 方阵例子：$A=\left[\begin{array}{cc}1& 2\\ 3& 4\end{array}\right]$
• 行向量例子：$v=\left[\begin{array}{ccc}1& 2& 3\end{array}\right]$
• 列向量例子：$w=\left[\begin{array}{c}4\\ 5\\ 6\end{array}\right]$
• 单位矩阵例子（3×3）：$E=\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]$

---

二、矩阵的基本运算

1. 矩阵的加法与减法

矩阵的加法与减法是对对应位置的元素进行加或减的运算。要求两个矩阵必须是同型矩阵（即行数和列数相同）。

公式：
$C_{ij}=A_{ij}+B_{ij}$（加法）
$C_{ij}=A_{ij}-B_{ij}$（减法）

例子：
$A=\left[\begin{array}{cc}1& 2\\ 3& 4\end{array}\right],B=\left[\begin{array}{cc}5& 6\\ 7& 8\end{array}\right]$
A+B=[681012],A−B=[−4−4−4−4]A + B = \begin{bmatrix} 6 & 8 \\ 10 & 12 \end{bmatrix}, A - B = \begin{bmatrix} -4 & -4 \\ -4 & -4 \end{bmatrix}A+B=[610​