隐马尔科夫模型（1）

基本概念

模型组成

• 状态转移矩阵：A
• 观测概率分布矩阵： B
• **初始状态概率向量：$\pi$
• **

隐马尔可夫模型：$\lambda$

$\lambda$ = $(A, B, \pi)$, 其中，$A= [a_{ij}]_{N*N}$,
$a_{ij} = P(i_{t + 1} | i_t = q_i)$的概率，i = 1, 2, …,N , j = 1, 2,….N
$B= [b_{j}(k)]_{N*M}$,
其中，$b_{j}(k) = P(o_t = v_k | i_t = q_j)$, k = 1, 2,… M; j = 1, 2, …., N
是在t时刻处于状态$q_j$的条件下生成观测$v_k$的概率
$\pi_i$是初始状态概率向量，其中，
$\pi_i = P(i_1 = q_i)$是t = 1的时刻处于状态$q_i$的概率，i = 1,2,….N,

两个基本假设

• 齐次马尔科夫性假设，即假设隐藏的马尔科夫链在任意时刻t的状态只依赖于前一时刻的状态，与其他时刻的状态及观测无关，也与时刻t无关，
  $$P(i_t| i_{t - 1}, o_{t - 1},...i_1, o_1) = P(i_t| i_{t - 1})$$
  -观测独立性假设，即假设任意时刻的观测只依赖于该时刻的马尔科夫链的状态，与其他观测及状态无关
  $$P(o_t |i_T,o_T,i_{T- 1},o_{T - 1},...i_1,o_1,) = P(o_t |i_t)$$

三个基本问题

• 概率计算问题，给定模型$\lambda$ = $(A, B, \pi)$， 和观测序列$O＝(o_1, o2, ..., o_T)$ , 计算在模型$\lambda$ 下观测序列O出现的概率$P(O|\lambda)$
• 学习问题，已知观测序列$O＝(o_1, o2, ..., o_T)$， 估计模型$\lambda$ = $(A, B, \pi)$为参数，使得在该模型下$P(O|\lambda)$ 最大，即用极大似然估计法估计参数
• 预测问题：已知模型$\lambda$ = $(A, B, \pi)$和观测序列$O＝(o_1, o2, ..., o_T)$ 求给定观测条件序列条件概率$P(O|\lambda)$最大的状态序列$I = (i_1, i_2, i_3, ...i_T)$,即给定观测序列，求最有可能的状态序列

参考资料

李航 统计学习方法