数值分析-函数逼近计算
前言
上一篇在多项式插值中我们介绍了几种经典方法,如Lagrange、Neville、Newton、逐次线性和Hermite插值等。多项式插值虽然可以在插值节点处一定经过给定的函数值,但是在插值节点之外的误差无法保证,经常出现剧烈震荡的情况。本章函数逼近计算的主要目的是在某种误差度量下求得最佳的逼近函数。多项式插值可以当作是一种局部准确拟合,函数逼近更多的是要求整体的拟合误差要小。
具体内容详见 《数值分析》 李庆扬、王能超、易大义(华中科大出版社)第三章
敲黑板
-
函数逼近其实很常见,在很多科学实验中的最小二乘拟合函数便是一个应用,在之前的矩阵论专题中有稍作讲解,相信大家都有一个目标:数据点都给我划到线上,啊啊啊!!
-
两种误差度量形式:设原函数为 f ( x ) f(x) f(x),x的取值范围为 a < x < b a < x < b a<x<b,逼近函数为 P ( x ) P(x) P(x)
- 一致逼近/均匀逼近: ∣ ∣ f ( x ) − P ( x ) ∣ ∣ ∞ = m a x a < x < b ∣ f ( x ) − P ( x ) ∣ \large ||f(x)-P(x)||_\infty=max_{a < x < b}|f(x)-P(x)| ∣∣f(x)−P(x)∣∣∞=maxa<x<b∣f(x)−P(x)∣
- 均方逼近/平方逼近: ∣ ∣ f ( x ) − P ( x ) ∣ ∣ 2 = ∫ a b [ f ( x ) − P ( x ) ] 2 d x \large ||f(x)-P(x)||_2=\sqrt{\int_a^b[f(x)-P(x)]^2 dx} ∣∣f(x)−P(x)∣∣2=∫ab[f(x)−P(x)]2dx
-
根据教材的内容,我们来引入函数的内积空间及范数定义:
-
函数的内积:设 f ( x ) , g ( x ) , ρ ( x ) ∈ C [ a , b ] f(x),g(x),\rho(x) \in C[a,b] f(x),g(x),ρ(x)∈C[a,b],其中 ρ ( x ) \rho(x) ρ(x)是权函数
权函数的定义为: ∫ a b ∣ x ∣ n ρ ( x ) d x ( n = 0 , 1 , . . , n ) \int_a^b |x|^n \rho(x) dx \,\, (n=0,1,..,n) ∫ab∣x∣nρ(x)dx(n=0,1,..,n)存在,且当 ∫ a b g ( x ) ρ ( x ) d x = 0 \int_a^b g(x) \rho(x) dx=0 ∫abg(x)ρ(x)dx=0时,则 g ( x ) ≡ 0 ∈ [ a , b ] g(x) \equiv 0 \in [a,b] g(x)≡0∈[a,b],其各阶矩也存在
两个函数在区间 [ a , b ] [a,b] [a,b]上的的内积表示为: ( f , g ) = ∫ a b ρ ( x ) f ( x ) g ( x ) d x (f,g)=\int_a^b \rho(x)f(x)g(x) dx (f,g)=∫abρ(x)f(x)g(x)dx
关于向量内积空间的性质同样适用于函数内积空间,如正定性、线性性、交换性
-
函数的Euclid范数: ∣ ∣ f ∣ ∣ 2 = ∫ a b ρ ( x ) f 2 ( x ) d x = ( f , f ) ||f||_2=\sqrt{\int_a^b \rho(x)f^2(x)dx}=\sqrt{(f,f)} ∣∣f∣∣2=∫abρ(x)f2(x)dx=(f,f)
关于向量范数的不等式同样适用于函数范数,如柯西不等式、三角不等式、平行四边形定律。
-
函数线性无关性:设 ϕ 0 ( x ) , ϕ 1 ( x ) , . . . , ϕ n − 1 ( x ) ∈ C [ a , b ] \phi_0(x),\phi_1(x),...,\phi_{n-1}(x) \in C[a,b] ϕ0(x),ϕ1(x),...,ϕn−1(x)∈C[a,b],如果有
a 0 ϕ ( x ) + a 1 ϕ 1 ( x ) + . . . + a n − 1 ϕ n − 1 ( x ) = 0 a_0 \phi_(x)+a_1 \phi_1(x)+...+a_{n-1}\phi_{n-1}(x)=0 a0ϕ(x)+a1ϕ1(x)+...+an−1ϕn−1(x)=0,当且仅当 a 0 = a 1 = . . . = a n − 1 = 0 a_0=a_1=...=a_{n-1}=0 a0=a1=...=an−1=0时成立,则称 ϕ 0 ( x ) , ϕ 1 ( x ) , . . . , ϕ n − 1 ( x ) \phi_0(x),\phi_1(x),...,\phi_{n-1}(x) ϕ0(x),ϕ1(x),...,ϕn−1(x)在区间 [ a , b ] [a,b] [a,b]上是线性无关的。
给出判断函数线性相关性质的定理: ϕ 0 ( x ) , ϕ 1 ( x ) , . . . , ϕ n − 1 ( x ) \phi_0(x),\phi_1(x),...,\phi_{n-1}(x) ϕ0(x),ϕ1(x),...,ϕn−1(x)在区间 [ a , b ] [a,b] [a,b]上线性无关的充要条件是其克莱姆矩阵行列式不为0,即
G n − 1 = G ( ϕ 0 ( x ) , ϕ 1 ( x ) , . . . , ϕ n − 1 ( x ) ) = ∣ ( ϕ 0 , ϕ 0 ) ( ϕ 0 , ϕ 1 ) . . . ( ϕ 0 , ϕ n − 1 ) ( ϕ 1 , ϕ 0 ) ( ϕ 1 , ϕ 1 ) . . . ( ϕ 1 , ϕ n − 1 ) ⋮ ⋮ ⋱ ⋮ ( ϕ n − 1 , ϕ 0 ) ( ϕ n − 1 , ϕ 1 ) . . . ( ϕ n − 1 , ϕ n − 1 ) ∣ (1) G_{n-1}=G(\phi_0(x),\phi_1(x),...,\phi_{n-1}(x))=\left | \begin{matrix} (\phi_0,\phi_0) & (\phi_0,\phi_1) & ... & (\phi_0,\phi_{n-1})\\ (\phi_1,\phi_0) & (\phi_1,\phi_1) & ... & (\phi_1,\phi_{n-1})\\ \vdots & \vdots & \ddots& \vdots \\ (\phi_{n-1},\phi_0) & (\phi_{n-1},\phi_1) & ... & (\phi_{n-1},\phi_{n-1}) \end{matrix} \right | \tag{1} Gn−1=G(ϕ0(x),ϕ1(x),...,ϕn−1(x))=∣∣∣∣∣∣∣∣∣(ϕ0,ϕ0)(ϕ1,ϕ0)⋮(ϕn−1,ϕ0)(ϕ0,ϕ1)(ϕ1,ϕ1)⋮(ϕn−1,ϕ1)......⋱...(ϕ0,ϕn−1)(ϕ1,ϕn−1)⋮(ϕn−1,ϕn−1)∣∣∣∣∣∣∣∣∣(1)
- 这里试着证明其充分性,采用反证法,即若 G n − 1 = 0 G_{n-1}=0 Gn−1=0,可以推得 ϕ 0 ( x ) , ϕ 1 ( x ) , . . . , ϕ n − 1 ( x ) \phi_0(x),\phi_1(x),...,\phi_{n-1}(x) ϕ0(x),ϕ1(x),...,ϕn−1(x)在区间 [ a , b ] [a,b] [a,b]上线性相关:
令
A = [ ( ϕ 0 , ϕ 0 ) ( ϕ 0 , ϕ 1 ) . . . ( ϕ 0 , ϕ n − 1 ) ( ϕ 1 , ϕ 0 ) ( ϕ 1 , ϕ 1 ) . . . ( ϕ 1 , ϕ n − 1 ) ⋮ ⋮ ⋱ ⋮ ( ϕ n − 1 , ϕ 0 ) ( ϕ n − 1 , ϕ 1 ) . . . ( ϕ n − 1 , ϕ n − 1 ) ] (2) A=\left [ \begin{matrix} (\phi_0,\phi_0) & (\phi_0,\phi_1) & ... & (\phi_0,\phi_{n-1})\\ (\phi_1,\phi_0) & (\phi_1,\phi_1) & ... & (\phi_1,\phi_{n-1})\\ \vdots & \vdots & \ddots& \vdots \\ (\phi_{n-1},\phi_0) & (\phi_{n-1},\phi_1) & ... & (\phi_{n-1},\phi_{n-1}) \end{matrix} \right ] \tag{2} A=⎣⎢⎢⎢⎡(ϕ0,ϕ0)(ϕ1,ϕ0)⋮(ϕn−1,ϕ0)(ϕ0,ϕ1)(ϕ1,ϕ1)⋮(ϕn−1,ϕ1)......⋱...(ϕ0,ϕn−1)(ϕ1,ϕn−1)⋮(ϕn−1,ϕn−1)⎦⎥⎥⎥⎤(2)
由于 G n − 1 = 0 G_{n-1}=0 Gn−1=0,则 A β = 0 A\beta =0 Aβ=0有有非零解, β ≠ 0 \beta \neq 0 β=0,对于第k行,
( ϕ k , ϕ 0 ) β 0 + ( ϕ k , ϕ 1 ) β 1 + . . . + ( ϕ k , ϕ n − 1 ) β n − 1 = 0 (\phi_k,\phi_0)\beta_0+(\phi_k,\phi_1)\beta_1+...+(\phi_k,\phi_{n-1})\beta_{n-1}=0 (ϕk,ϕ0)β0+(ϕk,ϕ1)β1+...+(ϕk,ϕn−1)βn−1=0
即 ( ϕ k , ∑ i = 0 n − 1 β i ϕ i ) = 0 , ( k = 0 , 1 , . . . , n − 1 ) (\phi_k,\sum_{i=0}^{n-1}\beta_i \phi_i)=0, (k=0,1,...,n-1) (ϕk,∑i=0n−1βiϕi)=0,(k=0,1,...,n−1)
记 Φ = ∑ i = 0 n − 1 β i ϕ i \Phi=\sum_{i=0}^{n-1}\beta_i \phi_i Φ=∑i=0n−1βiϕi,我们可以得到
( Φ , Φ ) = ( Φ , ∑ i = 0 n − 1 β i ϕ i ) = ∑ i = 0 n − 1 β i ( Φ , ϕ i ) = 0 (\Phi,\Phi)=(\Phi,\sum_{i=0}^{n-1}\beta_i \phi_i)=\sum_{i=0}^{n-1}\beta_i(\Phi,\phi_i)=0 (Φ,Φ)=(Φ,i=0∑n−1βiϕi)=i=0∑n−1βi(Φ,ϕi)=0
根据函数内积的正定性,可以得到 Φ = 0 \Phi=0 Φ=0,即 ∑ i = 0 n − 1 β i ϕ i = 0 , β ≠ 0 \sum_{i=0}^{n-1}\beta_i \phi_i=0, \beta \neq0 ∑i=0n−1βiϕi=0,β=0,得 ϕ j \phi_j ϕj线性相关,证毕。必要性一样可以用反证法证得!
若函数系 ϕ i {\phi_i} ϕi线性相关,则存在不全为0的数 a 1 , a 2 , . . . , a n a_1,a_2,...,a_n a1,a2,...,an使得:
∑ i = 0 n − 1 a i ϕ i = 0 \sum_{i
- 这里试着证明其充分性,采用反证法,即若 G n − 1 = 0 G_{n-1}=0 Gn−1=0,可以推得 ϕ 0 ( x ) , ϕ 1 ( x ) , . . . , ϕ n − 1 ( x ) \phi_0(x),\phi_1(x),...,\phi_{n-1}(x) ϕ0(x),ϕ1(x),...,ϕn−1(x)在区间 [ a , b ] [a,b] [a,b]上线性相关:
-