关于矩阵

1. 基向量$\vec{v}$与$\vec{w}$全部线性组合构成的向量集合称为“张成的空间”

2. shear（剪切）：横的轴不变，竖轴斜

3. 矩阵与向量相乘，就是将线性变换作用于那个向量

4. 矩阵的行列式不为0，则它存在一个逆矩阵

5. 秩（rank）：代表着变换后空间的维度，变换后的向量落在直线上，这个变换的秩为1；落在平面上，秩为2

6. 3×2的矩阵：几何意义是将一个二维空间映射到三维空间上

7. 同理，1×2的矩阵：将二维空间映射到一维数轴上

8. 设X的协方差矩阵$\sum$是一个可逆矩阵(也就是正定)，那么由线性代数知识可以很轻易地知道存在一个正交变换$Y=QS$ 使得Y的协方差矩阵是$Q\sum Q^T$，成为一个对角矩阵，这也就是说我对X做一个正交变换，就能把它变成一个两两不相关的一组新的随机变量。这个规律在无数的工程问题(信号处理，多元统计，主成分分析等)中都是重要的理论基础之一。

9. 协方差就是这样一种用来度量两个随机变量关系的统计量；从协方差可以引出“相关系数”的定义。协方差矩阵是一个对称的矩阵，而且对角线是各个维度上的方差。协方差矩阵计算的是不同维度之间的协方差，而不是不同样本之间的。