TJU自然语言处理复习(3)
隐Markov模型及其NLP应用
Markvo模型
生活中常见的例子:传染病传播,人口增长等都随机过程可以称为Markvo过程。
- 一个系统有N个状态 S1,S2,···,SN,随着时间推移,系统从某一状态转移到另一状态,设qt为时间 t 的状态,系统在时间 t 处于状态 Sj 的概率取决于其在时间 1 ,2,···,t-1 的状态,该概率为:
- 如果系统在 t 时间的状态只与其在时间 t -1 的状态相关,则该系统构成一个一阶Markov过程:
- 如果只考虑独立于时间 t 的随机过程:
- Markvo模型的实质就是一个随机有限状态自动机,每一个状态转换都有一个相应的概率表示采取这个状态转换的可能性。