线性代数笔记2：基本子空间的正交性及性质

基本子空间中有着更加特殊和精确的关系，由此可以引出向量空间的正交性及投影等问题。

正交性及正交补

定义：设$S$和$T$是$R^n$的两个子空间（subspace），如果对于$\forall V\in S，w\in T，v^Tw=0$，则$S$垂直于$T$（S is perpendicular to T），并且，这个定义是对称的，即$S$垂直于$T$<=>$T$垂直于$S$。记做$S\perp T$。也可以说$S$和$T$是正交的（S and T are orthogonal）。

几个常见结论

1. 设$A = B_1B_2$，其中$B_1$是$n\times r$ 矩阵，$B_2$是$r\times n$矩阵，后两矩阵秩都为$r$，则$A$是一个$n \times n 矩阵，且r(A) = r$。

   $A$的每一列是$B_1$的列向量的线性组合，因此$C(A)\subset C(B_1)$。
   $A$的每一列是$B_2$的行向量的线性组合，因此$C(A^T)\subset C(B_2^T)$。
   $B_1$是列满秩，则存在可逆$n\times n$矩阵$E_1$，$E_1B_1 = (I_r\space 0)^T$。
   $B_2$是行满秩，则存在可逆$n\times n$矩阵$E_2$，$B_2E_2 = (I_r\space 0)$。
   $C(A) = C(AE_2)=C(B_1(I_r\space 0)) = C(B_1)$。因此，$dimC(A) = dimC(B_1)$，即$r(A) = r(B_1) = r$。

2. 若$A$的列向量线性无关，则$A^TA$为可逆方阵。

   $A$列满秩 => $Ax = 0$只有零解 => $A^TAx = 0$ 只有零解 => $A^TA$列满秩。
   又因为$A^TA$是$n\times n$方阵，因此为可逆矩阵。

3. 若$S\cap T \neq\{0\}$，则$\exists v \in S\cap T，v^Tv\neq 0$。因此$S$和$T$不正交。
   命题：设$S$和$T$是$R^n$中的两个子空间，且$dimS + dimT > n，则S和T$不正交。

子空间的正交性

定理：设$A$是 $n\times n$矩阵，则$C(A)和N(A^T)$正交，$C(A^T)$和$N(A)$正交。

设$\alpha \in N(A^T)$，则$\alpha^T A = 0$。
因此$\alpha 和 A$的全部列向量垂直。可以得到$N(A^T)\perp C(A)$。
将$A$ 换成$A^T$，可以得到$C(A^T)\perp N(A)$。

四个子空间还存在着如下的关系：

$$N(A^T)+ C(A) = R^m，C(A)+N(A^T) = R^n$$
我们说 $C(A)是N(A^T)$在 $R^m$上的正交补， $C(A^T)$是 $N(A)$在 $R^n$上的正交补。

定义：设$V\subset R^n$是一个子空间，$V$在$R^n$中的正交补定义为集合

$$\{w\in R^n |v^Tw = 0,\forall v\in V\}$$

子空间的性质

1. 若$A$对称，即$A = A^T$，则$C(A) = C(A^T)$，因此$C(A) \perp N(A)$。

2. $A^TA$为对称阵，且$N(A) = N(A^TA)， C(A^T)= C(A^TA)$。

   $$Ax = 0 \Rightarrow A^TAx= 0 \Rightarrow N(A) \subseteq N(A^TA)$$
   $$A^TAx= 0 \Rightarrow x^TA^TAx= 0 \Rightarrow Ax = 0 \Rightarrow N(A^TA)\subseteq N(A)$$
   $$\Rightarrow N(A ) = N(A^TA)$$

3. 若$Ax= b$有解，则$Ax= b$在$C(A^T)$中有唯一解。

   存在性：设$Ax= b$有解，则$b\in C(A)$。又因为$C(A) = C(AA^T)$，因此$b\in C(AA^T)$
   

   $$\therefore \exists y \in R^m \Rightarrow AA^Ty = b$$
   $$let x_r = A^Ty \Rightarrow Ax_r = b \therefore x_r \in C(A^T)$$
   唯一性（反证法）：若 $x_r^1，x_r^2\in C(A^T)，and\space Ax_r^1 = b = Ax_r^2$
   $$\therefore A(x_r^1-x_r^2) = 0\Rightarrow x_r^1-x_r^2\in N(A)$$
   $$\because x_r^1，x_r^2\in C(A^T) \therefore x_r^1，x_r^2\in C(A^T)\cap N(A) = \{0\}$$
   $$\therefore x_r^1=x_r^2$$

欢迎关注我的个人博客。