- 假设向量X∈Rn,矩阵A∈Rn×n向量X∈R^n,矩阵A∈R^{n×n}向量X∈Rn,矩阵A∈Rn×n
1.向量的范数
- 向量的1-范数:∣∣X∣∣1=∑i=1n∣xi∣||X||_1=\displaystyle\sum_{i=1}^{n}|x_i|∣∣X∣∣1=i=1∑n∣xi∣,各个元素绝对值之和
- 向量的2-范数:∣∣X∣∣2=∑i=1nxi2||X||_2=\sqrt {\displaystyle\sum_{i=1}^{n}x_i^2}∣∣X∣∣2=i=1∑nxi2,各个元素的平方和再开平方
- 向量的无穷范数:∣∣X∣∣∞=max1≤i≤n∣xi∣||X||_{∞}= \mathop{max}\limits_{1≤i≤n}|x_i|∣∣X∣∣∞=1≤i≤nmax∣xi∣,各个元素的平方和再开平方
2.矩阵的范数
- 矩阵的1-范数(列模):∣∣A∣∣1=max1≤i≤n∣∣AX∣∣1∣∣X∣∣1=maxX≠0∑i=1n∣aij∣||A||_1=\mathop{max}\limits_{1≤i≤n}{\frac{||AX||_1}{||X||_1}}=\mathop{max}\limits_{X≠0}\displaystyle\sum_{i=1}^{n}|a_{ij}|∣∣A∣∣1=1≤i≤nmax∣∣X∣∣1∣∣AX∣∣1=X̸=0maxi=1∑n∣aij∣,矩阵中每列元素绝对值求和,再取其中最大值
- 矩阵的2-范数(谱模):∣∣A∣∣2=max1≤i≤n∣∣AX∣∣2∣∣X∣∣2=λmax(ATA)=max1≤i≤n∣λi∣||A||_2=\mathop{max}\limits_{1≤i≤n}{\frac{||AX||_2}{||X||_2}}=\sqrt {λ_{max}(A^{T}A)}=\sqrt {\mathop{max}\limits_{1≤i≤n}|λ_i|}∣∣A∣∣2=1≤i≤nmax∣∣X∣∣2∣∣AX∣∣2=λmax(ATA)=1≤i≤nmax∣λi∣,其中,λiλ_iλi为ATAA^{T}AATA的特征值,矩阵ATAA^{T}AATA的最大特征值开平方根
- 向量的无穷范数(行模):∣∣A∣∣∞=maxX≠0∣∣AX∣∣∞∣∣X∣∣∞=∑i=1n∣aij∣||A||_{∞}=\mathop{max}\limits_{X≠0}\frac{||AX||_{∞}}{||X||_{∞}}=\displaystyle\sum_{i=1}^{n}|a_{ij}|∣∣A∣∣∞=X̸=0max∣∣X∣∣∞∣∣AX∣∣∞=i=1∑n∣aij∣,矩阵每行上的各个元素的绝对值求和,取其中最大值再开平方
-
3.范数的性质
- 1.∣∣A∣∣≥0||A||≥0∣∣A∣∣≥0
- 2.if∣∣A∣∣=0,X=0if ||A||=0,X=0if∣∣A∣∣=0,X=0
- 3.∣∣aA∣∣=∣a∣∣∣X∣∣,其中a为常数||aA||=|a| ||X||,其中a为常数∣∣aA∣∣=∣a∣∣∣X∣∣,其中a为常数(齐次性)
- 4.∣∣A+B∣∣≤∣∣A∣∣+∣∣B∣∣||A+B||≤||A|| +||B||∣∣A+B∣∣≤∣∣A∣∣+∣∣B∣∣(三角不等式)
- 5.∣∣AB∣∣≤∣∣A∣∣∣∣B∣∣||AB||≤||A|| ||B||∣∣AB∣∣≤∣∣A∣∣∣∣B∣∣(相容性)