矩阵 ATAA^{T}AATA 是否一定正定?NO!
注意,并不要求 AAA 是方阵,记 AAA 是 m×nm\times nm×n 的矩阵。则
xTATAx=(Ax)TAx=∥Ax∥2≥0
x^{T}A^{T}Ax=(Ax)^{T}Ax= \lVert Ax\rVert^{2} \ge 0
xTATAx=(Ax)TAx=∥Ax∥2≥0
其中 xxx 是 n×1n\times 1n×1 的向量, ATAA^{T}AATA 是 n×nn\times nn×n 的方阵。
由上面的不等式我们知道 ATAA^{T}AATA 是半正定的。
而且,
- 如果 m=nm = nm=n ,ATAA^{T}AATA 是正定的当且仅当 AAA 是可逆矩阵(满秩)。
- 当 m<nm < nm<n , ATAA^{T}AATA 一定是半正定的。
- 当 m>nm >nm>n ,看具体矩阵,可能正定,可能半正定。
附录:
关于 case 1的证明,取
y=Ax
y=Ax
y=Ax
则
xTATAx=(Ax)TAx=yTy
x^{T}A^{T}Ax=(Ax)^{T}Ax=y^{T}y
xTATAx=(Ax)TAx=yTy
注意一个显而易见的事实, yTy≥0y^Ty \ge 0yTy≥0 永远成立。
当 yTy=0y^Ty=0yTy=0 意味着 y=0⃗y=\vec{0}y=0 ,注意 y=Axy=Axy=Ax,即 Ax=0⃗Ax = \vec{0}Ax=0 ,当 AAA 满秩 该方程才只有唯一零解,得证。
关于 case2 的证明:
由于 rank(A)≤min{m,n}=m<nrank(A) \le min\{m,n\}=m<nrank(A)≤min{m,n}=m<n
又 y=Ax=0⃗y=Ax= \vec{0}y=Ax=0 方程的基础解系的秩 等于 n−rank(A)>0n-rank(A) >0n−rank(A)>0
所以,存在 非零向量 使得 y=AX=0⃗y=AX=\vec{0}y=AX=0
这不符合 正定的定义。