隐马尔可夫模型

隐马尔可夫模型

马尔科夫链的核心是:在给定当前知识或信息的情况下,过去对于预测将来是无关的**,未来仅与当前有关,而与历史无关.**

在观察一个系统变化的时候,他的下一个状态如何的概率只需要观察和统计当前状态即可得出

HMM: 通过统计的办法,可以去观察和认知一个事件序列上邻近事件发生的概率转换问题

$P(x_2|...,x_{t-2},x_{t-1},x_t)=P(x_{t+1}|x_t)$

你知道这个地区的总的天气趋势,并且平时知道你朋友会做的事情, ----> 也就是说这个隐马尔可夫模型的参数是已知的

基本概念

马尔科夫链-------状态转移矩阵

理解为所有情况下,状态转移发生的概率

$P=\left[\begin{array}{cccc}& 牛市& 熊市& 横盘\\ 牛市& 0.9& 0.075& 0.025\\ 熊市& 0.15& 0.8& 0.05\\ 横盘& 0.25& 0.25& 0.5\end{array}\right]$ 状态状态转移矩阵

隐马尔可夫模型

马尔科夫链 + 一般随机过程

1. 当知道隐状态,根据观测状态生成矩阵,就可以知道观测状态发生概率

2. 隐状态是通过 状态转移矩阵, 通过初始状态,预测现在的状态

3. 所以 只需要一个 初始状态即可.

   可知, 股市状态变化的判断,就是一个马尔科夫链,股市状态到观测状态的变化就是一个一般随机过程

数学定义

定义: $隐状态集合Q=\left[q_1,q_2,...q_N\right],可观测态集合V=v_1,v_2,v_3....,v_M$

​ $状态序列Q=i_1,i_2,...i_N,观测态序列V=o_1,o_2,o_3....,o_M$

#####两个基本假设

• t时刻的隐状态只依赖t-1时刻的隐状态

  ​ $P(i_t|t_{t-1},o_{t-1},t_{t-2},o_{t-2}...t_1,o_1)=P(i_t|i_{t-1}),t=1,2,...T$

• t时刻的观测态只依赖t时刻的隐状态

  ​ $P(o_t|i_T,o_T,i_{T-1},o_{T-1}...i_t,o_t,i_{t-1},o_{t-1}...t_1,o_1)=P(o_t|i_t)$

状态转移矩阵: $A={\left[\begin{array}{c}{a}_{ij}\end{array}\right]}_{N\times M}$

其中 $a_{ij}=P(i_{i+1}=q_j|i_t=q_i)$

t时刻为$ q_i$ 状态下, $t+1$时刻转化成$q_j$的状态的概率是多少

观测状态生成矩阵: $B={\left[\begin{array}{c}{b}_j(k)\end{array}\right]}_{N\times M}$

其中 $b_j(k)=P(o_t=v_k|i_t=q_j)$

在隐状态为$q_j$的情况下,观测状态为$v_k$的概 率是 多少

隐状态初始概率分布:$\Pi ={\left[{\pi }_i\right]}_N$

其中 ${\pi }_i=P(i_1=q_i)$

初始时刻,第$i$个隐状态出现的概率

综上,HMM模式:$\lambda =(A,B,\Pi )$

用于解决 三个基本问题

观测序列概率

• $\lambda =(A,B,\Pi )$ 已知模型

• O={o1,o2,....oT}O = \{o_1,o_2,....o_T \}O={o1​,o2​,....oT​} 预测这种序列发生的概率

  ====>$P=(O|\lambda )$

那么如何求概率P:

穷举法

概述:通过列举所有长度为T的隐状态序列,然后对每种隐状态序列下出现观测序列的概率进行求和,即可得出这种观测序列出现的概率

优缺点:穷举方法直接有效,但当隐状态较多时,复杂度高

$P=P(O|\lambda )={\sum }_{I}P(O,I|\lambda )$

,其中$ P(O,I|\lambda)$是指在模型$\lambda$下,某个隐状态序列和观测态序列O同时同时发生的概率

所以把每个的隐状态序列下,当前隐状态序列和观测态序列O同时发生的概率相加求和就是模型λ下,观测态序列O的发生概率

$P(O,I|\lambda )=P(I|\lambda )P(O|I,\lambda )$ 根据贝叶斯公式得来,模型λ下 当前隐状态序列I发生的概率 × 模型λ和当前隐状态序列I下 观测态序列O 的发生概率

$P(I|\lambda )={\pi }_{i_1}{a}_{i_1{i}_2}{a}_{i_2{i}_3}...a_{i_{T-1}{i}_T}$

其中${\pi }_{i_1}$是指初始隐状态为$i_1$的概率 $ P(I|\lambda)$ 是指当前隐状态序列出现的概率

$P(O|I,\lambda )=b_{i_1}(o_1)b_{i_2}(o_2)...b_{i_T}(o_T)$

前向后向算法

每次向前,都是通过计算 当前时刻$t$,所有的N个隐状态 在 下一时刻$t+1$出现隐状态ih,h={1,2,...,N}i_{h},h=\{1,2,...,N\}ih​,h={1,2,...,N}且观测态为$o_{t+1}$ 的概率 (即有N个结果) ,这N个概率又用于计算下一个时刻$t+2$时,出现 隐状态ih,h={1,2,...,N}i_{h},h=\{1,2,...,N\}ih​,h={1,2,...,N}且观测态为$o_{t+2}$ 的概率,直到得出 隐状态ih,h={1,2,...,N},i_{h},h=\{1,2,...,N\},ih​,h={1,2,...,N},且观测态为$o_N,$ 的概率则终止

前向概率 $a_t(i)=P(o_1,o_2,...o_t,i_t=q_i|\lambda )$

t时刻,隐状态为i 且观测序列为O的概率

(1) 初值: $a_1(i)={\pi }_i{b}_i(o_1),i=1,2,3,..,N$

​ $t_1$时刻,处于各个隐状态和观测态$o_1$同时发生的概率 = 初始时刻,第$i$个隐状态出现的概率 × 在这个隐状态下,观测态$o_1$的概率

(2) 递推: $a_{t+1}(i)=\left[{\sum }_{j=1}^N{a}_t(j)a_{ji}\right]b_i(o_{t+1})$

中括号内的含义 :当前时刻所有的N个隐含状态与下一时刻的第i个隐状态的转变

以 $a_2(i)$ 为例,$a_2(i)=\left[{\sum }_{j=1}^N{a}_1(j)a_{ji}\right]b_i(o_2)$

1. $a_1(j)a_{ji}$ 是指 隐状态为j且观测序列为O={o1}O=\{o_1\}O={o1​} 在下个时刻$t_2$ 转变为隐状态为i且观测序列为O={o1}O=\{o_1\}O={o1​} 的概率

2. ${\sum }_{j=1}^N{a}_1(j)a_{ji}$是指 所有的隐状态且观测序列为O={o1}O=\{o_1\}O={o1​} 在下个时刻$t_2$ 转变为 隐状态为i 且 观测序列为O={o1}O=\{o_1\}O={o1​} 的概率

3. $a_2(i)=\left[{\sum }_{j=1}^N{a}_1(j)a_{ji}\right]b_i(o_2)$ 是指 隐状态为i 且 观测序列为O={o1,o2}O=\{o_1,o_2\}O={o1​,o2​} 的概率

(3) 终止: $P(O|\lambda )={\sum }_{i=1}^N{a}_T(i)$

​ 求解在时刻t,所有隐状态的概率求和

---

• 模型参数学习

  • O={o1,o2,o3...oT}O = \{ o_1,o_2,o_3...o_T\}O={o1​,o2​,o3​...oT​} 观测到这种序列

  ​ ====> $\lambda =(A,B,\Pi )$ 尝试去找到三个参数,使得序列发生的概率最大

• 预测(接码)问题

  • $\lambda =(A,B,\Pi )$ 通过观测状态找到了一个模型

  • O={o1,o2,....oT}O = \{ o_1,o_2,....o_T \}O={o1​,o2​,....oT​} 观测到这种序列

    ====> I={i1,i2,....,iT}I = \{ i_1,i_2,....,i_T\}I={i1​,i2​,....,iT​} 有了观测序列,有了模型,可以进行 隐状态的预测

前向后向算法

---

RNN和HMM

RNN:是一个循环递归网络,在n时刻,网络的输出误差不仅和n时刻的隐含状态有关,也与n时刻之前的所有的隐含状态有关

RNN相比传统的HMM的优势是充分考虑了历史所有时刻的状态