41、隐马尔可夫模型与贝叶斯估计：原理、应用与操作指南

隐马尔可夫模型与贝叶斯估计：原理、应用与操作指南

1. 隐马尔可夫模型相关问题探讨

1.1 模型定义差异

部分研究者将马尔可夫模型定义为在遍历弧时生成观测值，而非到达状态时生成。这种模型与常规讨论的模型相比，若输出不仅依赖当前状态还依赖下一状态，可定义对应于该状态对的新状态，由这个（联合）状态生成输出。

1.2 训练与验证序列生成

可以从选定的隐马尔可夫模型（HMM）生成训练和验证序列。具体操作步骤如下：
1. 选择一个HMM。
2. 从该HMM生成训练序列和验证序列。
3. 在相同训练集上，通过改变隐藏状态的数量来训练不同的HMM。
4. 计算验证似然，观察随着状态数量增加，验证似然的变化情况。

1.3 多元观测的M步方程

当方程中有多元观测时，若有d维的 $O_t \in \Re^d$，从具有均值向量和协方差矩阵的d元高斯分布中抽取，即 $p(O_t|q_t = S_j, \lambda) \sim N(\mu_j, \Sigma_j)$，M步方程如下：
$\hat{\mu} j = \frac{\sum {t} \gamma_t(j)O_t}{\sum_{t} \gamma_t(j)}$
$\hat{\Sigma} j = \frac{\sum {t} \gamma_t(j)(O_t - \hat{\mu} j)(O_t - \hat{\mu}_j)^T}{\sum {t} \gamma_t(j)}$

1.4 无放回抽样的影响

在瓮与球