47、隐马尔可夫模型（HMM）：原理、推理与应用

隐马尔可夫模型（HMM）：原理、推理与应用

1. 隐马尔可夫模型概述

隐马尔可夫模型（HMM）是一种统计模型，它在隐藏（或“潜在”）变量 $h_{1:T}$ 上定义了一个马尔可夫链。观测（或“可见”）变量 $v_{1:T}$ 通过发射概率 $p(v_t|h_t)$ 依赖于隐藏变量。其联合分布定义为：
[p(h_{1:T}, v_{1:T}) = p(v_1|h_1)p(h_1)\prod_{t=2}^{T}p(v_t|h_t)p(h_t|h_{t - 1})]
对于平稳 HMM，转移概率 $p(h_t|h_{t - 1})$ 和发射概率 $p(v_t|h_t)$ 不随时间变化。

1.1 相关定义

• 转移分布 ：对于平稳 HMM，转移分布 $p(h_{t + 1}|h_t)$ 由 $H \times H$ 的转移矩阵 $A_{i’,i} = p(h_{t + 1} = i’|h_t = i)$ 定义，以及初始分布 $a_i = p(h_1 = i)$。
• 发射分布 ：对于平稳 HMM 和离散状态 $v_t \in {1, \ldots, V}$ 的发射分布 $p(v_t|h_t)$，我们定义一个 $V \times H$ 的发射矩阵 $B_{i,j} = p(v_t = i|h_t = j)$。对于连续输出，$h_t$ 从 $H$ 个可能的输出分布 $p(v_t|h_t)$ 中选择一个。

2. 经典推理问题

HMM 中的常见推理问题如下：
|推理问题|描述|公式|
| --