概率图模型之隐马尔科夫模型浅析

概率图模型是一类用图来表达变量相关关系的概率模型。它以图为表示工具，最常见的是用一个节点表示一个或一组随机变量，节点之间的边表示变量间的概率相关关系，即“变量关系图”。根据边的性质不同，概率图模型可大致分为两类：第一类是使用有向无环图表示变量间的依赖关系，称为有向图模型或贝叶斯网。第二类是使用无向图表示变量间的依赖关系，称为无向图模型或马尔科夫网。

隐马尔科夫模型（Hidden Markov Model,HMM）是结构最简单的动态贝叶斯网，这是一种著名的有向图模型，主要用于时序数据建模，在语音识别、自然语言处理等领域有广泛应用。

如上图所示，隐马尔可夫模型中的变量可分为两组。
第一组是状态变量{y₁ ,y₂, … , y_n}，其中y_i表示第i时刻的系统状态，通常嘉定状态变量是隐藏的，不可被观测的，因此状态变量也称作隐变量。
第一组是状态变量{x₁ ,x₂, … , x_n}，其中x_i表示第i时刻的观测值。在隐马尔科夫模型中，系统通常在多个状态{s₁ ,s₂, … , s_N}之间转换，因此状态变量y_i的取值范围通常是有N个可能取值的离散空间。观测变量x_i 可以是离散型也可以是连续型。
上图的箭头表示了变量间的依赖关系。在任一时刻，观测变量的取值仅依赖于状态变量，即 x_t 由 y_t 决定，与其他状态变量及观测值无关同时，t 时刻的状态 y_t 仅依赖于 t-1 时刻的状态 y_t-1 ，与此前 t-2 个状态无