机器学习从零开始系列【第二话】矩阵与向量基础

矩阵 (Matrix)

$$R^{2\ast 3}=\left[\begin{array}{ccc}0& 0& 0\\ 0& 0& 0\end{array}\right]$$

• （Rows，Cols）来对应（Y，X）[简记：rc-yx]
• $A_{ij}=i^{th}Rows,j^{th}Cols$

Dimension of matrix = Rows x Cols

向量 (Vector)

$$R^{3\ast 1}==\vec{V}=\left[\begin{array}{c}0\\ 0\\ 0\end{array}\right]$$

矩阵四则运算

加法
必须满足逐元素对应
$$\left[\begin{array}{ccc}1& 2& 3\\ 0& 0& 5\end{array}\right]+\left[\begin{array}{ccc}1& 4& 0\\ 0& 0& 6\end{array}\right]=\left[\begin{array}{ccc}2& 6& 5\\ 0& 0& 11\end{array}\right]$$
乘法
必须满足 $A^{M\ast D}\ast B^{D\ast N}=R^{M\ast N}$ 才能进行矩阵乘法操作
$$A^{3\ast 2}\ast B^{2\ast 1}=R^{3\ast 1}$$
$$\left[\begin{array}{cc}1& 3\\ 4& 0\\ 2& 1\end{array}\right]X\left[\begin{array}{c}1\\ 5\end{array}\right]=\left[\begin{array}{c}16\\ 4\\ 7\end{array}\right]$$
$1\ast 1+3\ast 5=16$
$4\ast 1+0\ast 5=4$
$2\ast 1+1\ast 5=7$

注意：AxB$\ne$BxA

单位矩阵 (Identity matrix)

单位矩阵必须是方阵，表示 $I_n=R^{n\ast n}$，而且只有一条对角线是1。单位矩阵与下面要说的逆矩阵和矩阵转置密切相关。

$$\left[\begin{array}{ccc}1& 0& 0\\ 0& 1& 0\\ 0& 0& 1\end{array}\right]$$

矩阵转置 (Matrix transpose) 和逆矩阵 (Inverse matrix)

$A$的转置是$A^T$，那么就有$A=R^{m\ast n}$，$A^T=R^{n\ast m}$
如果A是方阵，有：
$$A\ast A^{-1}=I$$
我们称$A^{-1}$是A的逆矩阵