zzhhjjjj的博客

主要用于数据降维均值和协方差为准备主成分分析，另[X1⋯XN][X_1 \cdots X_N][X1​⋯XN​]是如上描述的一个p×Np \times Np×N观测矩阵. 观测向量X1,⋯ ,XNX_1, \cdots , X_NX1​,⋯,XN​的样本均值M由下式给出：M=1N(X1+⋯+XN)M = \frac{1}{N}(X_1 + \cdots + X_N) M=N1​(X1​+⋯+XN​)对k=1,⋯ ,Nk=1, \cdots, Nk=1,⋯,N，令 Xk^=Xk−M\hat{X_k} =

1. 正交矩阵正交矩阵各列标准正交QTQ^TQT=Q−1Q^{-1}Q−12. 特征值和特征向量3. 对角化4. 对称矩阵5. 正定矩阵6. 相似7. 奇异值分解

简介记录一下学习奇异值分解中的小知识点，具体参考线代黄书和《统计学习方法》由先前的知识我们得知对角化在许多应用中很重要，然而，并非所有矩阵都有分解式A=PDP−1A=PDP^{-1}A=PDP−1，且D是对角的但分解A=QDP−1A=QDP^{-1}A=QDP−1对任意m×nm \times nm×n矩阵A都有可能！这类特殊分解称为奇异值分解。奇异值分解下面，我们对奇异值分解做如下介绍：A=UΣVT其中U是m阶正交矩阵，V是n阶正交矩阵，Σ是m×n矩形对角矩阵，其对角线元素非负，且按降序排列r=

基本概念矩阵A(m*n)的四个基本子空间分别为：列空间：A的列的所有线性组合零空间：Ax=0的左右解空间行空间：A的行的所有线性组合A转置的零空间（左零空间）：A转置的零空间列空间行空间零空间左零空间基主列主元所在行解向量转置后算出的解向量维数rank(A)=rrank(A)=rn-rank(A)m-rank(A)关于行空间和列空间的一点补充A=[123111211231]⟶[101101100000]=R A = \left[ \be

A * B = C的四种解释(1) row * col = C[i,j]Ci,j=∑k=1n(ai,k∗bk,j)C_i,_j = \sum_{k=1}^n(a_i,_k*b_k,j)Ci​,j​=k=1∑n​(ai​,k​∗bk​,j)(2) A*col(B) = col(C)C的每一列=A∗(B的对应列)，即C的每一列为A的各列的线性组合C的每一列=A*(B的对应列)，即C的每一列为A的各列的线性组合C的每一列=A∗(B的对应列)，即C的每一列为A的各列的线性组合（3) row(A)*