隐马尔科夫模型HMM（四） -- 参数估计问题

最新推荐文章于 2023-11-26 15:27:03 发布

thinkhui

最新推荐文章于 2023-11-26 15:27:03 发布

阅读量2.8k

点赞数 1

CC 4.0 BY-SA版权

分类专栏：机器学习文章标签： HMM 参数估计 EM

本文链接：https://blog.youkuaiyun.com/fenghuibian/article/details/91126329

本文探讨HMM的参数估计问题，包括最大似然估计的理论和实际应用中的不可行性。接着，介绍了期望最大化（EM）算法作为解决含有隐变量模型参数估计的有效方法，详细阐述了EM算法的E步骤和M步骤，并指出在实际应用中为防止浮点数下溢而采取的对数运算策略。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

最后，我们研究第三个问题，参数估计问题。也即是给定一个观察序列 $O=O_{1}O_{2}O_{3}...O_{T}$ ，如何根据最大似然估计来求模型的参数值？即如何调节模型 $μ=(S,K,A,B,π)\mu =\left ( S,K,A,B,\pi \right )$ 的参数，使得 $P(O∣μ)P\left ( O|\mu \right )$ 最大？

最大似然估计

模型的参数是指构成 $μ\mu$ 的 $πi,aij,bj(k)\pi_{i},a_{ij},b_{j}(k)$ 。最大似然估计方法可以作为HMM参数估计的一种选择。如果产生观察序列O的状态序列 $Q=q_{1}q_{2}...q_{T}$ 已知，根据最大似然估计，HMM的参数可以通过如下公式计算：
$πiˉ=δ(q1,si)\bar{\pi _{i}}=\delta (q_{1},s_{i})$
$aijˉ=Q中从状态qi转移到qj的次数Q中所有从状态qi转移到另一状态（包括qj本身）的次数=∑t=1T−1δ(qt,si)×δ(qt+1,sj)∑t=1T−1δ(qt,si)\bar{a_{ij}}=\frac{Q中从状态q_{i}转移到q_{j}的次数}{Q中所有从状态q_{i}转移到另一状态（包括q_{j}本身）的次数}\\=\frac{\sum_{t=1}^{T-1}\delta (q_{t},s_{i})\times \delta (q_{t+1},s_{j})}{\sum_{t=1}^{T-1}\delta (q_{t},s_{i})}$
$bj(k)ˉ=Q中从状态qj输出到符号νk的次数Q中到达qj次数=∑t=1Tδ(qt,sj)×δ(Ot,νk)∑t=1Tδ(qt,sj)\bar{b_{j}(k)}=\frac{Q中从状态q_{j}输出到符号\nu _{k}的次数}{Q中到达q_{j}次数}\\=\frac{\sum_{t=1}^{T}\delta (q_{t},s_{j})\times \delta (O_{t},\nu _{k})}{\sum_{t=1}^{T}\delta (q_{t},s_{j})}$