机器学习第十四章-概率图模型

wastec

已于 2024-08-19 22:43:13 修改

阅读量976

点赞数 22

文章标签：机器学习人工智能

于 2024-08-19 22:41:50 首次发布

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.youkuaiyun.com/wastec/article/details/141330536

版权

目录

14.1 隐马尔可夫模型

14.2马尔科夫随机场

14.3条件随机场

14.4学习与推断

14.4.1变量消去

14.4.2信念传播

14.5近似推断

14.5.1 MCMC采样

14.5.2 变分推断

14.6 话题模型

14.1 隐马尔可夫模型

概率围棋型是一类用图来表达变量相关关系的概率模型.它以图为表示工具，最常见的是用一个结点表示一个或一组随机变量，结点之间的边表示变量间的概率相关关系，即"变量关系图”。

隐马尔可夫模型是结构最筒单的动态贝叶斯网，这是一种著名的有向图模型，主要用于时序数据建模，在语音识别、自然语言处理等领域有广泛应用。

系统下一时刻的状态仅由当前状态决定，不依赖于以往的任何状态.基于这种依赖关系，所有变量的联合概率分布为：

$P\left(x_{1}, y_{1}, \ldots, x_{n}, y_{n}\right)=P\left(y_{1}\right) P\left(x_{1} \mid y_{1}\right) \prod^{n} P\left(y_{i} \mid y_{i-1}\right) P\left(x_{i} \mid y_{i}\right)$

欲确定一个隐马尔可夫模型还需以下三组参数:

1. 状态转移概率矩阵：
记作 $A = [a_{ij}]$ ，其中 $a_{ij} = P(Y_{t+1} = S_j \mid Y_t = S_i)$ 。
表示从状态 $S_i$ 转移到状态 $S_j$ 的概率。矩阵的每个元素 $a_{ij}$ 描述了状态转移的可能性。

2. 观测概率矩阵：
记作 $B = [b_{ij}]$ ，其中 $b_{ij} = P(X_t = O_j \mid Y_t = S_i)$ 。
描述在状态 $S_i$ 下观测到观测值 $O_j$ 的概率。每个元素 $b_{ij}$ 指定了在某个隐状态下生成某个观测值的概率。

3. 初始状态概率向量：
记作 $\pi = [\pi_i]$ ，其中 $\pi_i = P(Y_1 = S_i)$ 。
表示在初始时刻系统处于状态 $S_i$ 的概率。这个向量定义了模型开始时各状态的分布。

通过指定状态空间、观测空间和上述三组参数，就能确定一个隐马尔可夫模型，通常用其参数 λ= [A ，B，π ]来指代.给定隐马尔可夫模型，它按如下过程产生观测序列 {x1，x2，x3..... }:

最低0.47元/天解锁文章

评论 1

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。