随机过程 基本概念和基本类型

随机过程 基本概念和基本类型

基本概念

随机过程 ：定义为概率空间 $(\Omega ,F,P)$ 上的一族随机变量 { X ( t ) ,   t ∈ T } \{X(t),\,t\in T\} { X(t),t∈T} ，其中 $T$ 称为指标集或参数集。

• 随机过程即所研究的无穷多个（可能不是相互独立的）随机变量。
• 通常将随机变量解释为一个物理、自然或社会系统

状态空间：$X(t)$ 表示系统在时刻 t 所处的状态，X(t) 的所有可能状态构成的集合为状态空间，记作 S 。

• 根据 $T$ 的离散或连续取值不同，可以将状态空间分为离散状态空间或连续状态空间；同样随机过程也分为离散参数的随机过程和连续参数的随机过程。

随机序列：当 T = { 0 ,   1 ,   ⋯   } T=\{0,\,1,\,\cdots\} T={ 0,1,⋯} 时，称为随机序列或时间序列，通常记作 { X ( n ) ,   n ≥ 0 } \{X(n),\,n\geq0\} { X(n),n≥0}

例：（Brown 运动）植物学家 Brown 注意到漂浮在叶面上的微小粒子不断进行无规则的运动，若以 $(X(t),Y(t))$ 表示粒子在平面坐标上的位置，则它是平面上的 Brown 运动。

有限维分布和 Kolmogorov 定理

研究随机现象主要是研究其统计规律性。对于随机过程，我们需要随机过程在不同时刻的多维分布。（不是有限个的分布，而是一族联合分布）。

随机过程的 $n$ 维分布 ：对于有限个 $t_1,t_2,\cdots ,t_n\in T$ ，定义为：
$$F_{t_1,t_2,\cdots ,t_n}(x_1,x_2,\cdots x_n)=P(X(t_1)\le x_1,\cdots X(t_n)\le x_n)$$
有限维分布族 ：随机过程的所有一维分布、二维分布、…… $n$ 维分布的全体：
{ F t 1 ,   t 2 ,   ⋯   ,   t n ( x 1 ,   x 2 ,   ⋯   x n ) ,   t 1 ,   t 2 ,   ⋯   t n ∈ T ,   n ≥ 1 } \{F_{t_1,\,t_2,\,\cdots,\,t_{n}}(x_1,\,x_2,\,\cdots\,x_n),\,t_1,\,t_2,\,\cdots\,t_n\in T,\,n \geq 1\} { Ft1​,t2​,⋯,tn​​(x1​,x2​,⋯xn​),t1​,t2​,⋯tn​∈T,n≥1}

• 对称性：对于某个 $n$ 维分布，随机变量位置的顺序并不影响该分布的取值（相应的时间也要重新排位置）
• 相容性：对于 $m<n$ ，有 $F_{t_1,t_2,\cdots ,t_n}(x_1,x_2,\cdots x_m,\infty ,\cdots ,\infty )=F_{t_1,t_2,\cdots ,t_m}(x_1,x_2,\cdots x_m)$

Kolmogorov 定理 ：设某个分布函数族 { F t 1 ,   t 2 ,   ⋯   ,   t n ( x 1 ,   x 2 ,   ⋯   x n ) ,   t 1 ,   t 2 ,   ⋯   t n ∈ T ,   n ≥ 1 } \{F_{t_1,\,t_2,\,\cdots,\,t_{n}}(x_1,\,x_2,\,\cdots\,x_n),\,t_1,\,t_2,\,\cdots\,t_n\in T,\,n \geq 1\} { Ft1​,t2​,⋯,tn​​(x1​,x2​,⋯xn​),t1​,t2​,⋯tn​∈T,n≥1} 满足上面的对称性和相容性，则必然存在一个随机过程 { X ( t ) ,   t ∈ T } \{ X(t),\,t\in T \} { X(t),t∈T} ，使得该分布函数组恰好是这个随机过程的有限维分布族。

• Kolmogorov 定理说明了随机过程的有限维分布族是随机过程概率特征的完整描述。实际中要知道随机过程的所有有限维分布是不可能的，我们可以用一些数字特征来刻画。

设 { X ( t ) ,   t ∈ T } \{X(t),\,t\in T\} { X(t),t∈T} 是一随机过程：

• 均值函数 ：称 $X(t)$ 的期望 ${\mu }_X(t)=E[X(t)]$ 为过程的均值函数；

• 二阶矩过程 ：若 $\forall t\in T$ ，$E[X^2(t)]$ 都存在，则称该随机过程为二阶矩过程；二阶矩过程的基础上：

  • 协方差函数 ： $\gamma (t_1,t_2)=E[(X(t_1)-{\mu }_X(t_1))(X(t_2)-{\mu }_X(t_2))]$
  • 方差函数： $Var[X(t)]=\gamma (t,t)=E[(X(t)-{\mu }_X(t){)}^2]$
  • 自相关函数：$R_X(s,t)=E(X(s)X(t))$ （$s,t\in T$）

由 Schwartz 不等式知道，二阶矩过程的协方差函数和自相关函数存在，且有 $\gamma (s,t)=R_X(s,t)-{\mu }_X(s){\mu }_X(t)$ （直接展开 $\gamma (s,t)$ 的表达式就可以得到）

例：$X(t)=X_0+tV$ （$t\in [a,b]$），$X_0$ 和 $V$ 是相互独立的、服从标准正态分布的随机变量

解：可知 $X(t)$ 也是服从正态分布的，因此只要知道其一阶矩和二阶矩，就可以确定它的分布。并且 $(X(t_1),X(t_2),\cdots ,X(t_n))$ 服从 $n$ 维正态分布。有：
$$\begin{array}{rl}{\mu }_X(t)=& E[X_0+tV]\\ =& E[X_0]+tE[V]=0\\ \gamma (t_1,t_2)=& E[(X_0+t_{1}V)(X_0+t_{2}V)]\\ =& E(X_0^2)+t_1{t}_{2}E(V^2)=1+t_1{t}_2\end{array}$$

基本类型

平稳过程

平稳过程的定义

平稳过程：该过程处于平稳状态，其主要性质和变量之间的时间间隔有关，与所考察的起始点无关。

严平稳过程：若随机过程 { X ( t ) ,   t ∈ T } \{X(t),\,t\in T\} { X(t),t∈T} 对任意的 t 1 ,   t 2 ,   ⋯   t n ∈ T t_1,\,t_2,\,\cdots\,t_n\in T t1​,t