隐马尔可夫与条件随机场-优快云博客

本文链接：https://blog.youkuaiyun.com/qq_35992440/article/details/81095856

一、隐马尔可夫模型

隐马尔可夫模型是结构最简单的动态贝叶斯网，这是一种著名的有向图模型，主要用于时序数据建模，在语音识别、自然语言处理等领域有广泛应用。
　首先我们来看看什么样的问题解决可以用HMM模型。使用HMM模型时我们的问题一般有这两个特征：１）我们的问题是基于序列的，比如时间序列，或者状态序列。２）我们的问题中有两类数据，一类序列数据是可以观测到的，即观测序列；而另一类数据是不能观察到的，即隐藏状态序列，简称状态序列。
　　有了这两个特征，那么这个问题一般可以用HMM模型来尝试解决。这样的问题在实际生活中是很多的。比如：我现在在打字写博客，我在键盘上敲出来的一系列字符就是观测序列，而我实际想写的一段话就是隐藏序列，输入法的任务就是从敲入的一系列字符尽可能的猜测我要写的一段话，并把最可能的词语放在最前面让我选择，这就可以看做一个HMM模型了。再举一个，我在和你说话，我发出的一串连续的声音就是观测序列，而我实际要表达的一段话就是状态序列，你大脑的任务，就是从这一串连续的声音中判断出我最可能要表达的话的内容。
　　从这些例子中，我们可以发现，HMM模型可以无处不在。但是上面的描述还不精确，下面我们用精确的数学符号来表述我们的HMM模型。
　

1.1HMM模型的定义

对于HMM模型，首先我们假设 $Q$ 是所有可能的隐藏状态的集合， $V$ 是所有可能的观测状态的集合，即：

Q = {q 1, q 2, . . ., q N}, V = {v 1, v 2, . . . v M}

$Q = \{q_1,q_2,...,q_N\}, \; V =\{v_1,v_2,...v_M\}$
其中，

N N $N$ 是可能的隐藏状态数，

M

$M$ 是所有的可能的观察状态数。
对于一个长度为

T T $T$ 的序列，

I

$I$ 对应的状态序列,

O O $O$ 是对应的观察序列，即：

I = {i_{1}, i_{2}, . . ., i_{T}}, O = {o_{1}, o_{2}, . . . o_{T}}

$I = \{i_1,i_2,...,i_T\}, \; O =\{o_1,o_2,...o_T\}$
其中，任意一个隐藏状态

it∈Q i t ∈ Q $i_t∈Q$ ,任意一个观察状态

ot∈V o t ∈ V $o_t∈V$
HMM模型做了两个很重要的假设如下：
1）齐次马尔科夫链假设。即任意时刻的隐藏状态只依赖于它前一个隐藏状态。当然这样假设有点极端，因为很多时候我们的某一个隐藏状态不仅仅只依赖于前一个隐藏状态，可能是前两个或者是前三个。但是这样假设的好处就是模型简单，便于求解。如果在时刻

t t $t$ 的隐藏状态是