一、范数、条件数与谱半径
1. 范数
1.1 向量范数
向量范数的具体形式可以有很多种(满足上述三个条件的),但常用的有以下三种
设
向
量
x
=
(
ξ
1
,
ξ
2
,
…
,
ξ
n
)
T
∈
C
n
,
设向量 x=\left(\xi_{1}, \xi_{2}, \dots, \xi_{n}\right)^{T} \in C^{n} ,
设向量x=(ξ1,ξ2,…,ξn)T∈Cn,
(
1
)
∥
x
∥
1
=
∑
i
=
1
n
∣
ξ
i
∣
(1)\quad\|x\|_{1}=\sum_{i=1}^{n}| \xi_{i} |
(1)∥x∥1=∑i=1n∣ξi∣ 1范数
(
2
)
∥
x
∥
2
=
(
∑
i
=
1
n
∣
ξ
i
∣
2
)
1
2
(2)\quad\|x\|_{2}=\left(\left.\sum_{i=1}^{n} |\xi_{i}\right|^{2}\right)^{\frac{1}{2}}
(2)∥x∥2=(∑i=1n∣ξi∣2)21 2范数
(
3
)
∥
x
∥
∞
=
max
1
≤
i
≤
n
∣
ξ
i
∣
(3)\|\boldsymbol{x}\|_{\infty}=\max _{1 \leq i \leq n}\left|\boldsymbol{\xi}_{i}\right|
(3)∥x∥∞=max1≤i≤n∣ξi∣
∞
\infty
∞范数
上述三种范数可统一地表示为 p 范数, 即
∥
x
∥
p
=
(
∑
i
=
1
n
∣
x
i
∣
p
)
1
p
\quad\|x\|_{p}=\left(\sum_{i=1}^{n}\left|\boldsymbol{x}_{i}\right|^{p}\right)^{\frac{1}{p}}
∥x∥p=(∑i=1n∣xi∣p)p1
其
中
p
=
1
,
2
时
很
清
楚
,
而
∥
x
∣
∞
=
lim
p
→
+
∞
∥
x
∥
p
其中p=1,2 时很清楚, 而 \left\|\left.x\right|_{\infty}=\lim _{p \rightarrow+\infty}\right\| x \|_{p}
其中p=1,2时很清楚,而∥x∣∞=limp→+∞∥x∥p
1.2 矩阵范数
算子范数
–由向量范数诱导的矩阵范数
设 ∥ ⋅ ∥ \quad\|·\| ∥⋅∥ 是Cn上的向量范数, 定义 Cnxn 上的函数为矩阵A的m范数
∥ A ∥ m \quad\|A\|_{m} ∥A∥m= max ∣ x ∣ = 1 ∥ A x ∥ , A ∈ C n × n \max _{|x|=1}\| A x \|, A \in C^{n \times n} max∣x∣=1∥Ax∥,A∈Cn×n
其中由向量1,2, ∞ \infty ∞范数诱导的矩阵范数 ∥ A ∥ 1 , ∥ A ∥ 2 , ∥ A ∥ ∞ \quad\|A\|_{1},\quad\|A\|_{2},\quad\|A\|_{\infty} ∥A∥1,∥A∥2,∥A∥∞
(
1
)
∥
A
∥
1
=
max
∣
∥
x
∥
1
=
1
∥
A
x
∥
1
=
max
1
≤
j
≤
n
∑
i
=
1
n
∣
a
i
j
∣
,
(1) \|A\|_{1}=\max _{\mid\|x\|_{1}=1}\quad\|Ax\|_{1}=\max _{1 \leq j \leq n} \sum_{i=1}^{n}\left|a_{i j}\right| ,
(1)∥A∥1=max∣∥x∥1=1∥Ax∥1=max1≤j≤n∑i=1n∣aij∣, L1诱导范数,极大列和
(
2
)
∥
A
∥
∞
=
max
∣
x
∣
∞
=
1
∥
A
x
∥
∞
=
max
1
≤
i
≤
n
∑
j
=
1
n
∣
a
i
j
∣
,
(2) \|A\|_{\infty} =\max _{|x|_{\infty}=1}\quad\|Ax\|_{\infty}=\max _{1 \leq i \leq n} \sum_{j=1}^{n} \left|a_{i j}\right|,
(2)∥A∥∞=max∣x∣∞=1∥Ax∥∞=max1≤i≤n∑j=1n∣aij∣,L无穷诱导范数,极大行和
(
3
)
∥
A
∥
2
=
max
∣
x
∣
2
=
1
∥
A
x
∥
2
=
λ
max
,
λ
max
是
A
H
A
(3) \|A\|_{2}=\max _{|x|_{2}=1}\quad\|Ax\|_{2}=\sqrt{\lambda_{\max }}, \lambda_{\max } 是 A^{H} A
(3)∥A∥2=max∣x∣2=1∥Ax∥2=λmax,λmax是AHA 的最大特征值 L2诱导范数,谱半径
矩阵范数
(
1
)
∥
A
∥
m
1
=
∑
i
=
1
n
∑
j
=
1
n
∣
a
i
j
∣
(1) \|A\|_{m_{1}}=\sum_{i=1}^{n} \sum_{j=1}^{n}|a_{ij}|
(1)∥A∥m1=∑i=1n∑j=1n∣aij∣ , m1 范数
(
2
)
∥
A
∥
m
∞
=
n
max
1
≤
i
,
j
≤
n
a
i
j
∣
(2) \|\boldsymbol{A}\|_{m_{\infty}}=n \max _{1 \leq i, j \leq n} a_{i j} \mid \quad
(2)∥A∥m∞=nmax1≤i,j≤naij∣, m无穷范数
(
3
)
∥
A
∥
F
=
∑
i
=
1
n
∑
j
=
1
n
∣
a
i
j
∣
2
=
tr
(
A
H
A
)
=
tr
(
A
A
H
)
(3) \|A\|_{F}=\sqrt{\sum_{i=1}^{n} \sum_{j=1}^{n}\left|a_{i j}\right|^{2}}=\sqrt{\operatorname{tr}\left(A^{H} A\right)}=\sqrt{\operatorname{tr}\left(A A^{H}\right)}
(3)∥A∥F=∑i=1n∑j=1n∣aij∣2=tr(AHA)=tr(AAH), F范数
例题
2. 谱半径ρ(A) 是矩阵A特征值模的最大值
- 谱半径小于1,矩阵序列{Ak}收敛;
- 谱半径是矩阵范数的下界 ,即 ||A||>= max(λi) = ρ(A)
3. 矩阵条件数
- 判断矩阵病态与否的一种度量,条件数越大矩阵越病态。对应矩阵的3种范数,相应地可以定义3种条件数: 函数 c o n d 1 ( A ) 、 c o n d ( 2 ( A ) 以 及 c o n d ∞ ( A ) cond_{1}(A)、cond(_{2}(A)以及cond_{∞}(A) cond1(A)、cond(2(A)以及cond∞(A)
- 病态:对于线性方程组Ax=b,如果A的条件数大,b的微小改变就能引起解x较大的改变,数值稳定性差。如果A的条件数小,b有微小的改变,x的改变也很微小,数值稳定性好
- cond(A) = ||A|| * ||A^-1||
定理:扰动误差,给矩阵A以扰动δA;其中x是Ax= b的唯一解,x̅是(A+δA)x = b的唯一解,有如下不等式`