机器学习 - 隐马尔科夫模型（4）- 预测算法

根据训练好的模型对测试数据进行预测，下面介绍应用在预测阶段的近似算法以及维特比算法。

• 近似算法

  近似算法的思想简单粗暴：在每个时刻 t 选择在该时刻最有可能出现的状态 i^*_t，从而得到一个状态序列 $I=(i_1^{\ast },i_2^{\ast },...,i_T^{\ast })$，将它作为预测结果。

  1. 算法过程

     给定 HMM 模型 λ 和观测序列 O，在时刻 t 处于状态 q_i 的概率：

     ${\gamma }_t(i)=\frac{{\alpha }_t(i){\beta }_t(i)}{{\sum }_{j=1}^N{\alpha }_t(j){\beta }_t(j)}$

     在每一时刻 t 最有可能的状态为 $i_t^{\ast }={}_{1\le i\le N}^{argmax}[{\gamma }_t(i)]，t=1,2,...,T$

     从而得到状态序列 $I^{\ast }=(i_1^{\ast },i_2^{\ast },...,i_T^{\ast })$

  2. 特点

     1）优点：计算简单

     2）缺点：无法保证预测的状态序列整体是最有可能的状态，因为预测的状态序列可能有实际不发生的部分。事实上，上述方法得到的状态序列中有可能存在转移概率为 0 的相邻状态，即有可能 α_ij=0. 但是实际中，我们可以根据转移概率的数值情况将等于 0 赋值为 近似为 0.

• 维特比算法

  维特比算法实际是用动态规划解决 HMM 预测问题的，即用动态规划求概率最大的路径（最优路径），每一条路径对应一个状态序列。

  动态规划的核心是将问题分解为子问题，每一步求子问题的最优解（局部最优解）以达到整体最优的目的。

  据此，我们只需从时刻 t=1 开始，递推地计算在时刻 t 状态为 i 的各条部分路径的最大概率，直至得到时刻 t=T 状态为 i 的各条路径的最大概率。之后从后向前逐步求得结点 $i_{T-1}^{\ast },i_{T-2}^{\ast },...,i_1^{\ast }$，得到最优路径。

  引入两个变量 δ 和 ψ：

  ---

  定义在时刻 t 状态为 i 的所有单个路径 $(i_1,i_2,...,i_t)$ 中概率最大值为：

  ${\delta }_t(i)={}_{i_1,i_2,...,i_{t-1}}^{max}P(i_t=i,i_{t+1},...,i_1,o_t,...,o_1|\lambda )，i=1,2,...,N$

  由定义可得变量 $\delta$ 的递推公式：

  $\begin{array}{rl}{\delta }_{t+1}(i)=& {}_{i_1,i_2,...,i_{t-1}}^{max}P(i_{t+1}=i,i_t,...,i_1,o_{t+1},...,o_1|\lambda )\\ =& {}_{1\le j\le N}^{max}[{\delta }_t(j)a_{ji}]b_i(o_{t+1})，i=1,2,...,N；t=1,2,...,T-1\end{array}$

  ---

  定义在时刻 t 状态为 i 的所有单个路径 $(i_1,i_2,...,i_{t-1})$ 中概率最大的路径的第 t-1 个结点为：

  ${\psi }_t(i)={}_{1\le j\le N}^{argmax}[{\delta }_{t-1}(j)a_{ji}]，i=1,2,...,N$

  1. 算法过程

     输入：模型 $\lambda =(A,B,\Pi )$ 和观测 $O=(o_1,o_2,...,o_T)$
     输出： 最优路径 $I^{\ast }=(i_1^{\ast },i_2^{\ast },...,i_T^{\ast })$

     1）初始化

     ${\delta }_1(i)={\pi }_i{b}_i(o_1)，i=1,2,...,N$

     ${\psi }_1(i)=0，i=1,2,...,N$

     ---

     2）递推，对 t=2,3,…,T

     ${\delta }_t(i)={}_{1\le j\le N}^{max}[{\delta }_{t-1}(j)a_{ji}]b_i(o_t)，i=1,2,...,N$

     （计算由 t-1 时刻的状态 1,2,…,N，在 t 时刻转移到状态 i 的各最大概率的路径，即固定时刻 t 的状态 q_i，计算由时刻 t-1 不同状态转移到状态 q_i 且观测为 o_t 的概率，并选出最大值）

     ${\psi }_t(i)={}_{1\le j\le N}^{argmax}[{\delta }_{t-1}(j)a_{ji}]，i=1,2,...,N$

     （选出 t-1 时刻最有可能的状态）

     3）终止

     $P^{\ast }={}_{1\le j\le N}^{max}{\delta }_T(i)$

     $i_T^{\ast }={}_{1\le j\le N}^{argmax}[{\delta }_T(i)]$

     4）回溯最优路径，对 t=T-1,T-2,…,1

     $i_t^{\ast }={\psi }_{t+1}(i_{t+1}^{\ast })$

     5）求得最优路径

     $I^{\ast }=(i_1^{\ast },i_2^{\ast },...,i_T^{\ast })$

  2. 举例

     模型 $\lambda =(A,B,\Pi )$，已知观测序列 $O=(红,白,红)$

     $A=\left[\begin{array}{ccc}0.5& 0.2& 0.3\\ 0.3& 0.5& 0.2\\ 0.2& 0.3& 0.5\end{array}\right]，B=\left[\begin{array}{cc}(红)& (白)\\ 0.5& 0.5\\ 0.4& 0.6\\ 0.7& 0.3\end{array}\right]，\Pi =(0.2,0.4,0.4)$

     1）初始化

     在 t=1 时刻，

     ${\delta }_1(i)={\pi }_i{b}_i(o_1)={\pi }_i{b}_i(红)，i=1,2,3$

     ${\delta }_1(1)=0.5\ast 0.2=0.1，{\delta }_1(2)=0.4\ast 0.4=0.16，{\delta }_1(3)=0.28$

     ${\psi }_1(i)=0，i=1,2,3$

     2）递推

     对 t=2 时：

     由状态 1,2,3 转移到状态 1 的最大概率：

     $\begin{array}{rl}{\delta }_2(1)=& {}_{1\le j\le 3}^{max}[0.1\ast 0.5，0.16\ast 0.3，0.28\ast 0.2]\ast 0.5\\ =& {}_{1\le j\le 3}^{max}[0.05，0.048，0.056]\ast 0.5\\ =& 0.056\ast 0.5\\ =& 0.028\end{array}$

     ${\psi }_2(1)=3$

     由状态 1,2,3 转移到状态 2 的最大概率：

     ${\delta }_2(2)=0.0504，{\psi }_2(2)=3$

     由状态 1,2,3 转移到状态 3 的最大概率：

     ${\delta }_2(3)=0.042，{\psi }_2(3)=3$

     ---

     对 t=3 时：

     由状态 1,2,3 转移到状态 1 的最大概率：

     ${\delta }_3(1)=0.00756，{\psi }_3(1)=2$

     由状态 1,2,3 转移到状态 2 的最大概率：

     ${\delta }_3(2)=0.01008，{\psi }_3(2)=2$

     由状态 1,2,3 转移到状态 3 的最大概率：

     ${\delta }_3(3)=0.0147，{\psi }_3(3)=3$

     3）终止

     以 P^* 表示最优路径的概率：

     $\begin{array}{rl}{P}^{\ast }=& {}_{1\le j\le N}^{max}{\delta }_3(i)\\ =& \max [0.00756，0.01008，0.0147]\\ =& 0.0147\end{array}$

     最优路径的终点是：

     $i_3^{\ast }={}_i^{argmax}[{\delta }_3(i)]=3$

     4）回溯最优路径

     由最优路径终点 $i_3^{\ast }$，逆向找到 $i_2^{\ast }，i_1^{\ast }$：

     在 t=2 时：$i_2^{\ast }={\psi }_3(i_3^{\ast })={\psi }_3(3)=3$

     在 t=1 时：$i_1^{\ast }={\psi }_2(i_2^{\ast })={\psi }_2(3)=3$

     5）得到最优路径

     $I^{\ast }=(i_1^{\ast }，i_2^{\ast }，i_3^{\ast })=(3，3，3)$