隐马尔可夫模型-HMM-简述-1-原理-示例

1. 简述

    现在本人对隐马尔可夫模型(HMM)的理解十分有限，本文主要是学习笔记的形式。

2. HMM基本原理

    HMM是一个双重随机过程，准确一点说就是两个状态集合，三个矩阵。
    两个状态集合：隐藏状态(S1,S2,S3,...)和观察状态(O1,O2,O3,...)。HMM的假设是隐藏状态之间是一个马尔科夫链，即对应一个初始状态矩阵(P)和状态转移矩阵(A)。假设观察状态由隐藏状态决定，即混淆矩阵(B)。
    一般的，用λ=(A,B,P)三元组表示一个隐马尔可夫模型。隐马尔可夫模型实际上是标准马尔可夫模型的扩展，添加了可观测状态集合和这些状态与隐含状态之间的概率关系。
    注意：矩阵A是一个方阵，反映的是隐藏状态之间的概率转移，即P(Si|Sj)表示从Sj到Si的概率，矩阵B不一定是方阵，反映的是已知隐藏状态，观察状态的条件概率，即P(Oj|Si)表示从Si到Oj的概率。

3. HMM简单示例

    假设你有一个住得很远的朋友，他每天跟你打电话告诉你他那天做了什么。你的朋友仅仅对三种活动感兴趣：公园散步，购物以及清理房间。他选择做什么事情只凭天气，他把天气只分为两种：“雨”或者“晴”。
    我们使用HMM对这个经典的例子进行建模，天气决定了朋友的活动，因此天气状态是隐藏状态，活动状态是观察状态。这样假设了天气状态之间具有马尔科夫性。
    S=(雨，晴)，O=(公园散步，购物，清理房间)，π是1*2的矩阵，A是2*2的矩阵，B是2*3的矩阵。对应Python代码：

states  =  ( ' Rainy ' ,  ' Sunny ' )
observations  =  ( ' walk ' ,  ' shop ' ,  ' clean ' )
start_probability  =  { ' Rainy ' :  0.6 ,  ' Sunny ' :  0.4 }
transition_probability  =  {
    ' Rainy '  : { ' Rainy ' :  0.7 ,  ' Sunny ' :  0.3 },
    ' Sunny '  : { ' Rainy ' :  0.4 ,  ' Sunny ' :  0.6 },
   }
emission_probability  =  {
    ' Rainy '  : { ' walk ' :  0.1 ,  ' shop ' :  0.4 ,  ' clean ' :  0.5 },
    ' Sunny '  : { ' walk ' :  0.6 ,  ' shop ' :  0.3 ,  ' clean ' :  0.1 },
   }

4. 总结

    就一点，HMM是一个双重随机过程，两个集合，三个矩阵，S，O，A，B，P。

5. 参考

    百度百科_隐马尔可夫模型    http://baike.baidu.com/view/1174010.htm
    维基百科_隐马尔可夫模型    http://zh.wikipedia.org/wiki/%E9%9A%90%E9%A9%AC%E5%B0%94%E5%8F%AF%E5%A4%AB%E6%A8%A1%E5%9E%8B