初学者也能看懂的隐马尔科夫模型介绍

【机器学习算法】隐马尔可夫模型HMM(一) 一、马尔可夫性质 设{X(t),t∈T}\{X(t), t ∈ T\}{X(t),t∈T}是一个随机过程,E为其状态空间,若对于任意的t1<t2<...<tn<tt_1<t_2< ...<t_n<tt1​<t2​<...<tn​<t,任意的x1,x2,...,xn,x∈Ex_1,x_2,...,x_n,x∈Ex1​,x2​,...,xn​,x∈E,随机变量X(t)X(t)X(t)在已知变量X(t1)=x1,...,X(tn)=xnX(t 阅读详情

隐马尔科夫模型是(hidden Markov model,HMM)是可用于标注问题的统计学习模型,描述由隐藏的马尔科夫链随机生成观测序列的过程。

 

隐马尔可夫模型(hidden Markov model,HMM)是时间序列的概率模型,常用于词性标注,语音识别,文本分析等领域。HMM是基于马尔科夫链进行标注的,我们对已经观察的数据序列O进行标注,标注序列I相当于不可观测序列(隐变量),如何求解概率最大的标注序列 I 是HMM的核心问题,我们以图解的方式形象的描述HMM问题。

已知观测序列,标注序列,其中观测序列是相互独立的且与对应的标注序列相关,标注序列符合马尔科夫链模型,如下图:

再次强调下隐马尔科夫模型假设的场景,1)观测序列是相互独立的,2)标注序列符合马尔科夫链模型,3)观测序列由标注序列决定。

HMM模型主要处理以下三个问题:

1)已知观测序列O,如何求解HMM模型参数。

2)已知观测序列O和模型参数,如何求解最有可能的标注序列 I 。

3)已知观测序列O和模型参数,如何求解观测序列O出现的概率。

下面给出大致的解决方案:

1) 已知观测序列O,如何求解模型参数。

其中I为标注序列,在上式中的含义为隐变量,因此可用EM算法求解上式的模型参数。

2) 已知观测序列O和模型参数,如何求解最有可能的标注序列 I 

3)已知观测序列O和模型参数,如何求解观测序列O出现的概率概率

后续内容会给出具体的算法和实例。

介绍到这里,相信大家对HMM有了初步的理解了吧,举一个例子来说明HMM的应用场景:

小明每天穿的服装为,假设小明穿的服装与前一天穿的服装是相互独立的,且服装的选择受精神状态的影响,当天的精神状态受到前一天精神状态的影响,精神状态为,已知观察序列,求对应的精神状态序列,这类问题我们可以用HMM来解决。

介绍到这里,相信大家对HMM的基本概念和应用场景有了一定的概念,如果对HMM还不是很理解的话,先别慌,下面循环渐进的介绍HMM,数学要求不高的人也能很好的理解。

1.概率与随机过程的区别

概率是反映随机事件发生的可能性,大学课程《概率论与数理统计》全文内容是基于概率介绍的。若随机事件发生的概率随时间而改变,我们在考虑时间因素或空间因素的情况下去分析随机事件发生的概率,称为随机过程。

 

若我们每次抛掷硬币且正面向上的概率为0.5,正面向上的概率不随抛掷次数而改变,我们可以用概率来描述这一事件,如P(X),其中X表示硬币正面向上的随机事件。

若我们每次抛掷硬币,硬币落在地上会导致形状的改变,正面向上的概率随抛掷次数的改变而改变,我们用随机过程来描述这一事件,如,其中表示第i次抛掷硬币正面向上的随机事件。笼统的讲,概率是分析一个随机变量,而随机过程是分析一组随机变量。

2.马尔科夫过程的概念

当随机过程的变量满足马尔科夫性的无记忆性质时,则称为马尔科夫过程。

我们定义为第i个时刻的随机变量,如下图的随机过程:

若随机变量满足:

上式的含义为t时刻的随机变量只依赖于t-1时刻的随机变量,与其他时刻无关,则称该过程为马尔科夫过程。

3.马尔科夫模型与隐马尔科夫模型的区别

马尔科夫模型与隐马尔科夫模型的区别在于是否含有隐变量,本节还是用小明穿服装的例子来形象的说明马尔科夫模型与隐马尔可夫模型的区别:

若小明每天的服装只受到前一天所穿服装的影响, 下图为小明最近N天所穿服装的序列:

由上节介绍可知服装序列为马尔科夫过程,基于马尔科夫过程的统计模型则称为马尔科夫模型。

若小明每天的服装与前一天所穿服装是相互独立的,且每天所穿的服装是受到当天的精神状态影响,精神状态符合马尔科夫链原理,令服装序列为,精神状态序列为,用下图描述这一过程:

其中服装序列是可观测序列且观测变量是相互独立的,精神状态序列是不可观测序列(隐变量)且状态变量符合马尔科夫模型,基于上述过程的统计模型称为隐马尔科夫模型。

4.隐马尔科夫模型参数介绍

由上节介绍可知,隐马尔科夫模型包含了观测序列和未观测的状态序列,其中状态序列由初始状态概率向量π和状态转移概率矩阵A决定,观测序列由观测概率矩阵B决定。

还是用小明作为例子,假设小明可选的服装为三件,分别为。小明的精神状态有两种,分别为。

因此状态转移概率矩阵A表示为:

其中,

是在时刻t处于状态的条件下在时刻t+1转移到的概率。

观测概率矩阵B表示为:

其中,

是在时刻t处于状态的条件下生成观测的概率。

初始状态概率向量表示为:

其中,

是时刻t=1处于状态的概率。

我们用参数λ表示隐马尔科夫模型参数,即:

A,B,π称为隐马尔可夫模型的三要素。

5. 隐马尔可夫模型参数求解算法

上节我们介绍了隐马尔可夫模型参数的含义,如何仅通过观测序列,求解模型参数。

我们知道隐马尔可夫过程包含了隐变量 I,那么隐马尔可夫模型事实上是一个含有隐变量的概率模型:

当构建包含隐变量的模型参数时,我们首先想到用EM(期望最大值)算法实现,算法可参考文章(一文让你完全入门EM算法)

模型参数求解步骤:

1)初始化隐马尔可夫模型参数

2)确定模型完全数据的对数似然函数,隐马尔可夫模型的完全数据包含了观测数据

和隐数据,完全数据是

因此完全数据的对数似然函数为:

3)EM算法的E步,即求完全对数似然函数下隐变量的期望,称为Q函数

有:

其中是隐马尔科夫模型的当前估计值,是马尔科夫模型参数。

根据上节介绍的隐马尔可夫模型参数的含义,完全数据的似然函数可展开为:

因此Q函数可写成:

4) EM算法的M步,求Q函数的最大值,得到模型参数,由上节可知模型参数

即令:

约束条件为初始状态概率分布的和等于1,即:

状态已知的情况下,观测概率分布的和等于1,即:

由上面的等式得到模型参数,即更新了模型参数的值。具体计算过程这里不再详细描述了,具体可参考李航老师的《统计学习方法》,若有不懂欢迎交流。

5)重复步骤(3)(4),直到函数收敛,得到最终的模型参数

6.观测序列概率计算算法

上一节介绍了如何通过观测序列去估计模型参数,当模型参数已知时,隐马尔可夫模

型也相应的确定了,观测序列的概率可以通过模型参数计算出来。下面介绍两种观测序列概

率计算算法:

1)枚举法

给定模型和观测序列,计算观测序列O出现的概率。假设状态序列,可能的状态数是N,因此每个观测变量都可能由N个状态生成,且模型参数已知,我们就能算出每个可能的状态序列生成观测序列的概率。如下图:

这种列举所有可能的状态数来计算观测序列的概率理论上是可行的,但是计算量非常大,如上图对于长度为T的观测序列,复杂度达到了。

2)递推法

隐马尔科夫具有时间序列的特点,因此我们可以用递推的方法去计算观测序列出现的概率。给定马尔科夫模型 ,定义到时刻t部分观测序列为且状态为的前向概率为。

1)时刻t=1时刻的观测概率为:

2)递推,对于,有:

3)当t=T时,

算法复杂度研究:因为该算法考虑的是用递推关系求观测序列的概率,递推过程如下图:

方程表示为:

由上式可知,计算t+1时刻状态为 i 的计算量为N次相乘求和,且t+1时刻状态的可能数为N,因此由t时刻递推到t+1时刻的计算量为 阶,观测序列的长度为T,那么计算量为阶,与之前枚举法相比,计算量大大降低了。

7.状态序列预测算法

给定模型参数 和观测序列,如何预测最有可能的状态序列,这是隐马尔科夫模型的应用最广的场景,如词性标注,给定一个句子,标注每个单词的特性;

本节介绍维特比算法(Viterbi algorithm)来预测状态序列。维特比算法是一种动态规划算法,用于寻找最有可能产生的状态序列。

通过节点

算法的核心思想是:若t时刻最有可能的状态序列通过节点(为t时刻的状态),那么从t时刻到T时刻的最优路径一定包括。我们利用这一思想确定了最优状态序列的最后一个时刻的状态,然后利用该状态回溯时刻的最优状态。用一个例子说明维特比算法:


已知模型,观测集合V={红,白},状态集合Q={1,2,3},其中

若观测序列O=(红,白,红),求最优状态序列

解:定义为时刻t状态为 i 的所有单个路径中概率的最大值,含义为给定前t-1时刻的状态和前t时刻的观测序列,求最优路径t时刻的状态,即:

定义为时刻t状态为 i 的所有单个路径中概率最大路径的第t-1个节点为:

根据维特比算法的核心思想,我们计算观测序列下的最优路径:

1)t=1时,令是观测为状态为i的概率,由题目可知为红色,有:

代入已知条件得:

记

2)t=2时,

由上面两式得:

2)t=3时,

得:

以表示最优路径的概率,最优路径的终点:

因此最优状态序列:

8.小结

本文首先用一个例子通俗的讲解了隐马尔可夫模型的适用场景以及隐马尔可夫模型的三个主要处理问题,然后循序渐进的介绍了隐马尔可夫模型的概念和相关问题的解决方法,所用的例子选取了《统计学习方法》的内容。后续文章会介绍另一种相似的算法——条件随机场以及两者的区别,希望对初学者能有所帮助。

推荐阅读

520 页机器学习笔记!图文并茂可能更适合你,文末附下载方法

李航老师《统计学习方法》(第2版)课件分享,文末附下载

Github | 吴恩达新书《Machine Learning Yearning》完整中文版开源

经典好书 | 141页的《Deep Learning with PyTorch》开源书籍

欢迎扫码关注:

HMM(隐马尔可夫)简介 通过一个简单的例子来介绍马尔可夫链: 假设天气有三种状态(晴天、多云、雨天),三种状态之间的转换关系如图: 我们想要通过今天的天气来推测明天的天气和后天的天气,可以直接根据状态转换关系来推测,这种可以直接观测到的状态转换(晴天—>雨天—>多云)就称作马尔可夫链。 如果我们不知道今天的天气只知道水藻的干湿状态,只通过水藻的状态来推测天气: 这种想推测的东西不能直接观测到,而是根据另一种我们可见的这种观测的东西去推算我们想知道的信息就需要用到隐马尔可夫模型。 隐马尔可夫模型(HMM):是 阅读详情

相关推荐

[机器学习入门] 李宏毅机器学习笔记-29 (Sequence Labeling Problem part 1;结构化预测-序列标记 part 1)

[机器学习入门] 李宏毅机器学习笔记-29(Sequence Labeling Problem part 1;结构化预测 part 1) PDF VIDEOSequence LabelingExample TaskPOS tagging 词性标注,必须要考虑整个句子的information,所以光靠查表是无法解决的。 OutlineHidden Markov Model (HMM) 隐

Holeung blog 3693

隐马尔可夫模型,超全解释

隐马尔可夫模型由两部分组成:一个观测序列和一个对应的隐藏状态序列。假设我们有一个由TTT个时刻组成的观测序列OO1O2⋯OTOO1​O2​⋯OT​,其中OtO_tOt​表示时刻ttt时观测到的状态。同时,假设我们有一个由TTT个时刻组成的隐藏状态序列SS1S2⋯STSS1​S2​⋯ST​,其中StS_tSt​表示时刻ttt时的隐藏状态。HMM模型包含三组参数:初始概率π\piπ。

m0_72410588的博客 4465

【基础理论】隐马尔可夫模型及其算法

​ 根据L.R Rabiner等人[1]的说法,隐马尔可夫模型是一个双重嵌入的随机过程,其潜在的随机过程是不可观察的(它是隐藏的),但只能通过另一组产生观察序列的随机过程来观察。 基本上,隐马尔可夫模型 (HMM) 是观察一系列排放,但不知道模型生成排放所经历的状态序列的模型。我们分析隐马尔可夫模型,以从观察到的数据中恢复状态序列。听起来很混乱吧​

gongdiwudu的专栏 7440

隐马尔可夫模型(HMM)

基于上一篇所讲到的马尔可夫模型,现在难度加大了,我们观测不出天气的状态,只能通过海藻的状态来推断出天气的状态。海藻的状态有四种,分别是Dry(干燥的)、Dryish(稍干的)、Damp(潮湿的)、Soggy(湿漉漉的)。海藻的状态是可观测的,那它就是观测状态,天气信息看不到就是隐藏状态。注:观测状态和隐藏状态并不是一 一对应的。

weixin_47786612的博客 5282

MATLAB实现隐马尔科夫模型全解_HMM学习与应用

隐马尔科夫模型(Hidden Markov Model,HMM)是一种统计模型,用于描述一个含有隐含未知参数的马尔科夫过程。HMM是马尔科夫链和统计模型相结合的产物,广泛应用于语音识别、生物信息学、自然语言处理等领域。在HMM中,系统被认为是一个马尔科夫过程,但状态并不直接可见,而是通过观测序列间接地表现出来。马尔科夫链是随机过程的一种,其核心特征是具有无记忆性,即未来的状态只与当前状态有关,而与过去的状态无关。数学上,这个性质可以表述为:假定有一个随机过程 {X_n},它取值于状态空间 S。

weixin_32661831的博客 993

Unity采样器过多导致URP默认的Lit.Shader报错(shader error in ‘universal render pipeline/lit’: maximum ps_4_0 samp)

Shader中多个Sample Texture2D,Sample Texture3D或者类似节点的使用,该类节点都需要一个采样器,如果Shader使用超过了16个纹理采样器,如多个Base Color,Normal Map等,就容易超出。是因为每种Shader Model和GPU都有一个对纹理采样器数量的限制,是因为每个采样器都需要在显卡占用一个独立的寄存器,而寄存器的数量是有限的,当超过限制,显卡无法分配更多的寄存器给新的采样器,因此会导致编译错误。2.什么原因导致纹理采样器超出16个?

qq_41884036的博客 4236

HMM 自学教程(四)隐马尔科夫模型

本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在HMM 学习最佳范例,这是针对国外网站上一个 HMM 教程的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,这里结合HMM 学习最佳范例的作者和读者的建议,一并做了修改,供大家参考。

peghoty 7136

deap数据集的情绪检测代码环境搭建与实现

deap数据数据集很大

f的博客 4160

如何对正射影像DOM(卫星影像、无人机航拍影像)进行拼接、合并以及去黑边(附 Global Mapper Pro 24.0 安装包(中文注册版))

为什么要对正射影像DOM进行拼接?影像去黑边、影像拼接的操作和步骤。

从地图看世界的专栏 4300

《从零学会 CST 仿真全流程》专栏简介

本专栏系统讲解CSTPCBStudio与MWSStudio在高速PCB仿真中的应用,涵盖SI/PI仿真全流程。重点介绍CSTPCBStudio用于板级信号完整性分析,CSTMWS用于3D高频电磁仿真,以及电缆、低频、多物理场等配套工具。课程以实战为导向,通过USB3.1、LPDDR4等案例,手把手教学软件操作与工程应用,适合硬件工程师、EMC工程师及电子专业学生学习。内容注重实操,弱化理论,帮助快速掌握仿真核心技能。

一只豌豆象的博客 702

隐马尔科夫模型一(概念理解)

由于前一段时间在看CTC论文,里面用到了HMM中的前向后向算法,推公式的时候·一脸懵逼,所以又来学习HMM的思想,所以写篇博客做个笔记。本部分博客分为两篇,第一篇主要介绍一些基本的概念和思想,第二篇介绍理论的推导。博客的内容主要是基于<<统计学习方法>>以及其他的一些博客 模型概念 隐马尔可夫模型:隐马尔科夫模型是关于时序的概念模型,描述了由一个隐藏的马尔科夫链随机产生不可...

dakenan1的博客 283

Dify 第 13 篇 Dify 工作流 详解

工作流通过将复杂任务分解为节点降低复杂度,提升LLM应用的性能和稳定性。Dify工作流分为两类:Chatflow面向对话场景(如客服),支持多轮对话;Workflow面向批处理场景(如翻译),提供逻辑节点实现自动化。核心概念包括节点、变量(系统/会话/环境变量)及应用类型差异:Chatflow支持中间输出和对话历史,Workflow仅支持结束节点输出。系统变量以"sys"开头,用于全局数据传递,不同应用类型变量不同,如Chatflow的sys.query存储用户输入,Workflow的s

甘蓝的专栏 3253

隐马尔科夫模型(Hidden Markov Model)学习博客整理

本文记录了在学习马尔科夫模型过程中,感觉讲的比较好理解的一些博客 讲解隐马尔科夫模型 讲解维特比算法(viterbi)

热爱编程,热爱技术 368

【原理图PCB专题】Cadence17.4 PCB位号重排与反标

Cadence17.4 PCB位号重排与反标比Cadence16版本更简单一些,那到底如何操作?

一点硬件 1182

stable-diffusion-webui的逐步部署教程

本文主要介绍了stable-diffusion-webui的逐步部署教程,希望能对使用Stable Diffusion的同学们有所帮助。 文章目录 1. 前言 2. 逐步部署教程 2.1 创建Python环境 2.2 安装依赖库 2.3 运行代码

weixin_43178406的博客 6万+

HMM 自学教程(一)引言

本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在HMM 学习最佳范例,这是针对国外网站上一个 HMM 教程的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,这里结合HMM 学习最佳范例的作者和读者的建议,一并做了修改,供大家参考。

peghoty 6426

OpenOCD入门到精通:第 0 章 教程导读

摘要:本教程是OpenOCD嵌入式调试工具的完整指南,适合从新手到资深工程师的学习需求。内容涵盖基础配置、调试技巧、Flash编程、TCL脚本自动化、源码解析和二次开发,共8大部分30章。教程提供5种学习路线,可根据角色和目标灵活选择,配套资源包含示例代码和配置文件。通过系统学习,读者将掌握OpenOCD从使用到扩展的全套技能,成为嵌入式调试领域的专家。

从事嵌入式linux android驱动开发,拥有全栈能力 1942

语音识别原理介绍-----(这次是收费的)

理解语音识别原理

u010384318的专栏 9311

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

IEM模型,地表粗糙度模拟

利用微波反演土壤水分时候,利用IEM模型可以实现对随机地表的模拟

隐马尔科夫模型(HMM)解释 和 前向与后向算法[转] 讲解通俗易懂 赞

https://zhuanlan.zhihu.com/p/27056207

studyvcmfc的专栏 310

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

机器学习算法(五)之隐马尔可夫算法代码

隐马尔科夫模型代码编写: 在上一次写完了隐马尔科夫模型的算法理论部分,总结而言,隐马尔科夫是用来研究隐藏的时序逻辑关系,在隐马尔科夫模型中,前后联系与关系要求比较严格,如果发生顺序的调换,则观测变量就会发生改变。 《统计学习方法》第十章隐马尔可夫模型,课后习题10.1,这是很多博客上的经典解答问题,盒子里拿球顺序的预测。 对于给定盒子与球组成隐马尔科夫模型 A, B为两个概率矩阵,分别列出如下: 设T=4,O=(红色,白色,红色,白色),使用后向算法计算P(O)。以下为隐马尔科夫模型的核心计算代码; 隐马

千与编程 1633

清晰易懂的条件随机场原理总结

如果问机器学习初学者,《统计学习方法》中最难理解的章节是什么?我想大部分人的回答是条件随机场。小编前段时间看了很多条件随机场的学习资料,整理出了这篇文章,请大家耐心看,初学者应该也能看懂...

机器学习算法那些事 5374

HMM 自学教程(六)维特比算法

本系列文章摘自 52nlp(我爱自然语言处理: http://www.52nlp.cn/),原文链接在HMM 学习最佳范例,这是针对国外网站上一个 HMM 教程的翻译,作者功底很深,翻译得很精彩,且在原文的基础上还提供了若干程序实例,是初学者入门 HMM 的好材料。原文中存在若干笔误,这里结合HMM 学习最佳范例的作者和读者的建议,一并做了修改,供大家参考。

peghoty 6082
上一篇: 动手练习 | 3步用Python运行机器学习
下一篇: 计算机视觉 | 图像描述与注意力机制
机器学习算法那些事
博客等级 码龄9年 1633粉丝 62原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值