Hilbert 空间
平稳序列导出的线性空间
在研究时间序列的预测问题时,常常考虑用历史资料 X 1 , X 2 , ⋯ , X n X_1,X_2,\cdots,X_n X1,X2,⋯,Xn 的线性组合对未来 X n + k X_{n+k} Xn+k 进行预测,即
X n + k = a 1 X 1 + a 2 X 2 + ⋯ + a n X n . X_{n+k}=a_1X_1+a_2X_2+\cdots+a_nX_n \ . Xn+k=a1X1+a2X2+⋯+anXn .
但在这里我们用的是有限的历史信息。如果推广到无限的历史资料,即用无穷的线性组合对未来进行预测,这就需要研究无穷线性组合的性质,尤其是线性序列的均方收敛性等问题。
所有二阶矩有限的随机变量组成的一个无穷维函数空间 L 2 L^2 L2 ,所有 { X t } \{X_t\} { Xt} 及其有限和无穷线性组合也构成一个无穷维函数空间,是 L 2 L^2 L2 的子空间。
我们从有限线性组合开始讨论。
用 L 2 ( X ) L^2(X) L2(X) 表示平稳序列 { X t } \{X_t\} {
Xt} 中随机变量有限线性组合的全体:
L 2 ( X ) = { ∑ j = 1 k a j X t j ∣ a j ∈ R , t j ∈ Z , 1 ≤ j ≤ k , k ∈ N ∗ } , L^2(X)=\left\{\sum_{j=1}^ka_j X_{t_j} \bigg|a_j\in\R,\,t_j\in\Z,\,1\leq j\leq k,\,k\in\N^*\right\}, L2(X)={
j=1∑kajXtj∣∣∣∣aj∈R,tj∈Z,1≤j≤k,k∈N∗},
可以验证 L 2 ( X ) L^2(X) L2(X) 是一个线性空间:对 ∀ X , Y , Z ∈ L 2 ( X ) , a , b ∈ R \forall X,Y,Z\in L^2(X)\ , \ a,b\in\R ∀X,Y,Z∈L2(X) , a,b∈R ,则有
-
加法交换律: X + Y = Y + X ∈ L 2 ( X ) X+Y=Y+X\in L^2(X) X+Y=Y+X∈L2(X) ;
-
加法结合律: ( X + Y ) + Z = X + ( Y + Z ) (X+Y)+Z=X+(Y+Z) (X+Y)+Z=X+(Y+Z) ;
-
零元素: 0 ∈ L 2 ( X ) 0\in L^2(X) 0∈L2(X) , X + 0 = X X+0=X X+0=X , X + ( − X ) = 0 ∈ L 2 ( X ) X+(-X)=0\in L^2(X) X+(−X)=0∈L2(X) ;
-
数量乘法:
- a ( X + Y ) = a X + a Y ∈ L 2 ( X ) a(X+Y)=aX+aY\in L^2(X) a(X+Y)=aX+aY∈L2(X) ;
- ( a + b ) X = a X + b X ∈ L 2 ( X ) (a+b)X=aX+bX\in L^2(X) (a+b)X=aX+bX∈L2(X) ;
- a ( b X ) = ( a b ) X a(bX)=(ab)X a(bX)=(ab)X .
在 L 2 ( X ) L^2(X) L2(X) 上定义内积 ⟨ X , Y ⟩ = E ( X Y ) \langle X,\,Y\rangle={\rm E}(XY) ⟨X,Y⟩=E(XY) ,则可以将 L 2 ( X ) L^2(X) L2(X) 扩展为内积空间:
- ⟨ X , Y ⟩ = ⟨ Y , X ⟩ \langle X,\,Y\rangle=\langle Y,\,X\rangle ⟨X,Y⟩=⟨Y,X⟩ ;
- ⟨ a X + b Y , Z ⟩ = a ⟨ X , Z ⟩ + b ⟨ Y , Z ⟩ \langle aX+bY,\,Z\rangle=a\langle X,\,Z\rangle+b\langle Y,\,Z\rangle ⟨aX+bY,