同步于Buracag的博客;音尘杂记
随机过程(Stochastic Process) 是一组随机变量 X t X_t Xt的集合,其中 t t t属于一个索引(index)集合 T T T。索引集合 T T T可以定义在时间域或者空间域,但一般为时间域,以实数或正数表示。当t为实数时,随机过程为连续随机过程;当t为整数时,为离散随机过程。
日常生活中的很多例子包括股票的波动、语音信号、身高的变化等都可以看作是随机过程。常见的和时间相关的随机过程模型包括伯努利过程、随机游走(Random Walk)、马尔可夫过程等。和空间相关的随机过程通常称为随机场(Random Field)。比如一张二维的图片,每个像素点(变量)通过空间的位置进行索引,这些像素就组成了一个随机过程。
1. 马尔可夫过程
马尔可夫性质 在随机过程中,马尔可夫性质(Markov Property)是指一个随机过程在给定现在状态及所有过去状态情况下,其未来状态的条件概率分布仅依赖于当前状态。以离散随机过程为例,假设随机变量 X 0 , X 1 , . . . , X T X_0,X_1, ... ,X_T X0,X1,...,XT构成一个随机过程。这些随机变量的所有可能取值的集合被称为状态空间(State Space)。如果 X t + 1 X_{t+1} Xt+1对于过去状态的条件概率分布仅是 X t X_t Xt的一个函数,则
(1) P ( X t + 1 = x t + 1 ∣ X 0 : t = x 0 : t ) = P ( X t + 1 = x t + 1 ∣ X t = x t ) P(X_{t+1} = x_{t+1}|X_{0:t} = x_{0:t}) = P(X_{t+1} = x_{t+1}|X_t = x_t) \tag{1} P(Xt+1=xt+1∣X0:t=x0:t)=P(Xt+1=xt+1∣Xt=xt)(1)
其中 X 0 : t X{0:t} X0:t表示变量集合 X 0 , X 1 , . . . , X t , x 0 : t X_0,X_1, ... ,X_t,x_{0:t} X0,X1,...,Xt,x0:t表示为在状态空间中的状态序列。
马尔可夫性质也可以描述为给定当前状态时,将来的状态与过去状态是条件独立的。
1.1 马尔可夫链
离散时间的马尔可夫过程也称为马尔可夫链(Markov Chain)。如果一个马尔可夫链的条件概率
(2) P ( X t + 1 = s i ∣ X t = s j ) = T ( s i , s j ) P(X_{t+1} = s_i|X_t = s_j) = T(s_i, s_j) \tag{2} P(Xt+1=si∣Xt=sj)=T(s