第十章隐马尔科夫模型.10.1 导论

本课程来自深度之眼，部分截图来自课程视频以及李航老师的《统计学习方法》第二版。
公式输入请参考： 在线Latex公式

前言

任务简介：学习隐马尔科夫模型中的三个基本问题。第10章介绍了隐马尔科夫模型。通过学习第1节，了解隐马尔科夫模型的三要素和三个基本问题；通过学习第2节，理解隐马尔可夫模型概率计算中的前向算法和后向算法；通过学习第3节，掌握维特比算法。
学习目标：
1.了解隐马尔科夫模型的三要素和三个基本问题。
2.掌握隐马尔可夫模型概率计算中的向前算法。
3.理解维特比算法。
4.掌握高斯混合模型的算法实现。

定义

例子就不说了，p193给出定义：
定义10.1（隐马尔可夫模型）隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测从而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列，称为状态序列（state sequence）；每个状态生成一个观测，而由此产生的观测的随机序列，称为观测序列（observation sequence）。序列的每一个位置又可以看作是一个时刻。
这里要注意，之前的朴素贝叶斯模型中对特征的相互关系假设是独立的，而在实际上他们是不独立的，是有相互影响的，隐马尔可夫模型就是考虑了这一点，每一个状态都可能和之前的状态有关系，如果算力足够，当然可以追溯到最起始的状态，但是实际上是无法做到这一点的，因此隐马尔可夫模型在实作的时候只考虑前几个状态。下面简单给出隐马尔可夫模型涉及到的模型参数及符号表达：
状态集合：
Q = { q 1 , ⋯   , q N } Q=\{q_1,\cdots,q_N\} Q={q1​,⋯,qN​}
预测集合：
V = { v 1 , ⋯   , v M } V=\{v_1,\cdots,v_M\} V={v1​,⋯,vM​}
状态序列：
I = { i 1 , ⋯   , i T } , i t ⊂ Q I=\{i_1,\cdots,i_T\},i_t\subset Q I={i1​,⋯,iT​},it​⊂Q
预测序列：
O = { o 1 , ⋯   , o T } , o t ⊂ V O=\{o_1,\cdots,o_T\},o_t\subset V O={o1​,⋯,oT​},ot​⊂V
状态转移概率矩阵：
$$A_{N\times N}=\left[\begin{array}{cccc}{a}_{11}& a_{11}& \cdots & a_{1N}\\ a_{21}& a_{22}& \cdots & a_{2N}\\ ⋮& ⋮& \ddots & ⋮\\ a_{N1}& a_{N2}& \cdots & a_{NN}\end{array}\right]$$
矩阵中每个值$a_{ij}$是从状态$i$转换到状态$j$的概率

	$i_2=q_1$	$i_2=q_1$	$\cdots$	$i_2=q_1$
$i_1=q_1$	$a_{11}$	$a_{12}$	$\cdots$	$a_{1N}$	$a_{1j}=p(i_2=q_j\mid i_1=q_1)$
$i_1=q_2$	$a_{21}$	$a_{22}$	$\cdots$	$a_{2N}$	$a_{2j}=p(i_2=q_j\mid i_1=q_2)$
$\cdots$	$\cdots$	$\cdots$	$\cdots$	$\cdots$	$\cdots$
$i_1=q_N$	$a_{N1}$	$a_{N2}$	$\cdots$	$a_{NN}$	$a_{Nj}=p(i_2=q_j\mid i_1=q_N)$

观测概率矩阵：

$$B_{N\times M}=\left[\begin{array}{cccc}{b}_{11}& b_{11}& \cdots & b_{1M}\\ b_{21}& b_{22}& \cdots & b_{2M}\\ ⋮& ⋮& \ddots & ⋮\\ a_{NM}& a_{NM}& \cdots & b_{NM}\end{array}\right]$$
每个状态能够观测到每个取值的概率：

	$o_2=v_1$	$o_1=v_2$	$\cdots$	$o_1=v_M$
$i_1=q_1$	$b_1(1)$	$b_1(2)$	$\cdots$	$b_1(M)$	$b_{1}K=p(o_t=v_1\mid i_t=q_1)$
$i_1=q_2$	$b_2(1)$	$b_2(2)$	$\cdots$	$b_2(M)$	$b_{2}K=p(o_t=v_1\mid i_t=q_2)$
$\cdots$	$\cdots$	$\cdots$	$\cdots$	$\cdots$	$\cdots$
$i_1=q_N$	$b_N(1)$	$b_N(2)$	$\cdots$	$b_N(M)$	$b_{N}K=p(o_t=v_1\mid i_t=q_N)$

初始状态概率向量：
$$\pi =\left[\begin{array}{c}{\pi }_1\\ {\pi }_2\\ ⋮\\ {\pi }_N\end{array}\right]=\left[\begin{array}{c}p(i_1=q_1)\\ p(i_1=q_2)\\ ⋮\\ p(i_1=q_N)\end{array}\right]$$
就是第一时刻出现每一种状态的初始概率。
模型参数：
$$\lambda =({\pi }_{N\times 1},A_{N\times N},B_{N\times M})$$
总参数量：$N\times (N\times N)\times (N\times M)$
自由参数量：$(N-1)\times (N\times N-N)\times (N\times M-N)$

模型两个基本假设（模型成立的两个条件）：
齐次马尔科夫性：$P(i_t|i_{t-1},\cdots ,i_1)=P(i_t|i_{t-1})$，这个假设是说本来当前状态是和历史状态有关系的，但是这里让其约等于只和前一个状态有关。
观测独立假设：每个观测值之和当前状态有关，和前一个状态无关。

三个基本问题：
概率计算问题:$P(O|\lambda )$
学习问题$arg\max P(O|\lambda )$
预测问题$arg\max P(I|O,\lambda )$

概率计算问题

先来看第一个问题，在给定参数$\lambda$的条件下，观测序列出现的概率是多少。第一种解决方法是：直接计算法

已知 λ = ( A , B , π ) ， O = { o 1 , ⋯   , o T } \lambda=(A,B,\pi)，O=\{o_1,\cdots,o_T\} λ=(A,B,π)，O={o1​,⋯,oT​}
给定参数单条状态链的概率（从初始状态概率乘以第一个状态转第二个状态的概率乘以。。。）：
$P(I|\lambda )={\pi }_{i1}\cdot a_{i_1{i}_2}\cdot a_{i_2{i}_3}\cdots \cdot a_{i_{T-1}{i}_T}$
再求出现某状态链的情况下观测序列出现的概率（状态链第一个状态激发第一个观测值的概率乘以状态链第二个状态激发第二个观察值的概率。。。）：
$$P(O|I,\lambda )=b_{i_1}(o_1)b_{i_2}(o_2)\cdots b_{i_T}(o_T)$$
最后算：
$$\begin{gathered} P(O,I|\lambda )=P(O|I,\lambda )P(I|\lambda ) \\ ={\pi }_{i1}\cdot b_{i_1}(o_1)a_{i_1{i}_2}\cdot b_{i_2}(o_2)a_{i_2{i}_3}\cdot b_{i_3}(o_3)\cdots a_{i_{T-1}{i}_T}\cdot b_{i_T}(o_T) \end{gathered}$$
以上是算一种状态链组合，实际上估计会有很多种状态链的组合，我们可以穷举这块状态链组合，然后求解这些状态链对应的观测链出现的概率，然后把所有观测链出现的概率累加起来。
$$\begin{gathered} P(O|\lambda )=\sum _{I}P(O,I|\lambda )=\sum _{I}P(O|I,\lambda )P(I|\lambda ) \\ =\sum _{i_1,i_2,\cdots ,i_T}P(O|I,\lambda )P(I|\lambda ) \\ =\sum _{i_1,i_2,\cdots ,i_T}{\pi }_{i1}\cdot b_{i_1}(o_1)a_{i_1{i}_2}\cdot b_{i_2}(o_2)a_{i_2{i}_3}\cdot b_{i_3}(o_3)\cdots a_{i_{T-1}{i}_T}\cdot b_{i_T}(o_T) \end{gathered}$$
这个计算量很大，计算机复杂度：$O(T{N}^T)$
为了解决这个问题，要用前向算法，下节详细讲。

学习问题：参数估计

1.监督学习方法，就是直接用统计出现频次的方法来求。
已知训练数据包含$S$个长度相同的观测序列和对应的状态序列 { ( O 1 , I 1 ) , ( O 2 , I 2 ) , ⋯   , ( O S , I S ) } \{(O_1,I_1),(O_2,I_2),\cdots,(O_S,I_S)\} {(O1​,I1​),(O2​,I2​),⋯,(OS​,IS​)}
转移概率的$a_{ij}$的估计
$${\hat{a}}_{ij}=\frac{A_{ij}}{{\sum }_{j=1}^N{A}_{ij}},i=1,2,\cdots ,N;j=1,2,\cdots ,N$$
观测概率的$b_j(k)$的估计
$${\hat{b}}_j(k)=\frac{B_j(k)}{{\sum }_{k=1}^M{B}_j(k)},j=1,2,\cdots ,N;k=1,2,\cdots ,N$$
初始状态概率的估计
$${\pi }_i=\frac{状态i出现的次数}{总样本个数}$$
2.无监督学习方法，该方法中没有状态链，只有观测数据。用Buam-Welch算法（EM算法）
输入：观测数据$O=(O_1,O_2,\cdots ,O_T)$
输出：隐马尔可夫模型参数
这里只给大概思路，具体推导不写。
我们知道
$$P(O,I|\lambda )=P(O|I,\lambda )P(I|\lambda )$$
第一步：确定完全数据的对数似然函数
$$\log P(O,I|\lambda )$$
第二步：E步，求期望（Q函数）
$$Q(\lambda ,\bar{\lambda })=E_I[\log P(O,I|\lambda )|O,\bar{\lambda }]$$
书上化简的过程省略了以下步骤，乘以一个数，除以一个数：
$$E_I[\log P(O,I|\lambda )|O,\bar{\lambda }]\cdot P(O,I|\bar{\lambda })\frac{1}{P(O,I|\bar{\lambda })}$$
最后一项求极值过程由于是常数，可以去掉。
$$E_I[\log P(O,I|\lambda )|O,\bar{\lambda }]\cdot P(O,I|\bar{\lambda })$$
第三步：M步，对Q函数求极大，然后等于0求解。结果不写了。

预测算法

即给定观测序列，求最有可能的对应的状态序列。
其实参数和观测序列已知，所以目标可以写为：
$arg\max P(I|O,\lambda )$
一种是近似算法，一种是维特比算法（后面讲）

小结

1.状态链、观测链、状态转移矩阵、观测转移矩阵
2.隐马尔可夫两种假设：齐次马尔可夫性、观测独立假设
3.概率计算法：直接计算法、前向算法、后向算法
4.学习算法：EM算法
5.预测算法：近似算法、维特比算法