隐马尔可夫模型(二)——前向算法和后向算法

一、 问题回顾

计算观测序列概率。
即给定模型λ=(A,B,Π)和观测序列O={o₁,o₂,…o_T}，计算在模型λ下观测序列O出现的概率P(O；λ)。这个问题的求解需要用到前向算法和后向算法，我会在隐马尔可夫模型系列的第二篇博客中讲解，这个问题是HMM模型三个问题中最简单的。

二、前向算法

用前向算法来求观测序列O={o₁,o₂,…o_T}的概率，首先定义前向概率。

前向概率：
给定隐马尔可夫模型λ，定义到时刻 t 时的部分观测序列为o₁,o₂,…o_t且此时的状态为q_i的概率为前向概率。记为：
α_t( i ) = P(o₁, o₂, … o_t, i_t = q_i；λ)

前向概率的递推公式：
我们已经知道 α_t( j ) = P(o₁, o₂, … o_t, i_t = q_j；λ)，又因为a_ji 表示在时刻 t 的状态为 q_j 的条件下时刻 t+1 的状态为q_i的概率，所以α_t( j )a_ji = P(o₁, o₂, … o_t, i_t = q_j, i_t+1 = q_i；λ)，现在利用联合概率和边缘概率的关系，将 i_t = q_j 的所有情况相加得：