Viterbi Algorithm Analysis.

最新推荐文章于 2024-07-12 11:33:28 发布
原创 最新推荐文章于 2024-07-12 11:33:28 发布 · 208 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文深入探讨Viterbi算法在隐马尔可夫模型(HMM)中的关键作用，尤其关注其通过动态规划原理，实现路径优化选择的过程。文章强调在语音识别等场景下，Viterbi算法如何通过逐层筛选，保留最大概率路径，从而有效提升识别精度。

Viterbi 算法在语音领域的hmm求解时有很重要应用，这个是本人的笔记。我认为最重要的地方就是中间层的入口大的概率把小的概率给淘汰了。

当然还有动态规划方面的意涵，也就是后面的每一步都是在前面一个运算的基础上。并且假定后面的状态只依赖前一个状态。

参考文献：

1、https://www.zhihu.com/question/20136144

2、https://www.cnblogs.com/Anker/archive/2013/03/15/2961725.html

3、https://viterbischool.usc.edu/about-andrew-viterbi/

 

Error Correction coding——mathematical methods and algorithms
03-10
Error Correction Coding - Mathematical Methods and Algorithms (Source Files Contained).pdf Error Correction Coding Mathematical Methods and Algorithms Todd K....Utah State University ...
NLP 自然语言处理班 课件：HMM.zip
02-10
2. **维特比算法（Viterbi Algorithm）**：找出最有可能产生给定观测序列的状态序列。 **学习HMM** 1. ** Baum-Welch 重估算法（Baum-Welch Re-estimation）**：这是一种EM（期望最大化）算法，用于在观测数据上...
HMM学习(6)-Viterbi Algorithm
weixin_30414245的博客
03-24 132
HMM学习(6)-Viterbi Algorithm 分类： HMM学习 2007-12-22 20:42 3279人阅读 原文：http://www.comp.leeds.ac.uk/roger/HiddenMarkovModels/html_dev/main.html Wangben at mcrc, hit, Harbin 2007.12.22 6 ...
Vite 特性和部分源码解析
开源世界
07-07 2776
Vite 的特性 Vite 的主要特性就是 Bundleless。基于浏览器开始原生的支持 JavaScript 模块功能，JavaScript 模块依赖于 import 和 export 的特性，目前主流浏览器基本都支持； 想要查看具体支持的版本可以点击这里； 那这有什么优势呢？ 去掉打包步骤 打包是开发者利用打包工具将应用各个模块集合在一起形成 bundle，以一定规则读取模块的代码，以便在不支持模块化的浏览器里使用，并且可以减少 http 请求的数量。但其实在本地开发过程中打包反而增加了我们排查问题的
HanLP Analysis for Elasticsearch
adnb34g的博客
04-22 617
基于 HanLP 的 Elasticsearch 中文分词插件，核心功能： 兼容 ES 5.x-7.x； 内置词典，无需额外配置即可使用； 支持用户自定义词典； 支持远程词典热更新（待开发）； 内置多种分词模式，适合不同场景； 拼音过滤器（待开发）； 简繁体转换过滤器（待开发）。 版本 插件版本和 ES 版本一致，直接下载对应版本的插件进行安装即可。 ·插件开发完成...
MR for Baum-Welch algorithm
weixin_30621959的博客
11-27 150
The Baum-Welch algorithm is commonly used for training a Hidden Markov Model because of its superior numerical stability and its ability to guarantee the discovery of a locally maximum, Maximum Li...
A novel macroblock-tree algorithm for high-performance optimization
DuoKingg的博客
03-21 599
导读 这是x264的开发者关于写的一篇文章，类似于工程开发过程的技术文档。主要是介绍关于其中的Macroblock-tree的原理及实现 文章翻译 0 Abstract 提出了一个快速启发式算法来近似率失真依赖视频编码。之前针对这个问题的算法都是假设每一帧内使用常数量化参数并且依赖实际很慢的方法，比如每一帧重复几十次的编码。新的宏块树方法在很低的运算消耗下比已有的宏块树算法在PSNR性能上提高1.2db，在SSIM性能上提高2.3db。宏块树已经被应用在了开源H.264/AVC编码器x264上。 A no
workbench environment analysis----directly saved analysis after
weixin_30920513的博客
08-31 1894
* Support: https://ubuntu.com/advantage 102 packages can be updated.53 updates are security updates. New release '18.04.2 LTS' available.Run 'do-release-upgrade' to upgrade to it. Last login: ...
mindspore打卡第24天之LSTM+CRF序列标注
qq_39306047的博客
07-12 1896
序列标注指给定输入序列，给序列中每个Token进行标注标签的过程。序列标注问题通常用于从文本中进行信息抽取，包括分词(Word Segmentation)、词性标注(Position Tagging)、命名实体识别(Named Entity Recognition, NER)等。输入序列清华大学座落于首都北京输出标注BIIIOOOOOBI如上表所示，清华大学和北京是地名，需要将其识别，我们对每个输入的单词预测其标签，最后根据标签来识别实体。
The Most Important Algorithms (in CS and Math)
歆萌的专栏
04-27 919
本文是Christoph Koutschan列出来的32类计算机与数学领域最为重要的算法（按字符顺序排列）。覆盖的面很广，评价很精准。链接中加入了自己总结过的文章（或者用到该算法的例子），后面有时间将根据重点算法继续补充。 原文转载from：http://www.risc.jku.at/people/ckoutsch/stuff/e_algorithms.html
Channel Coding and Decoding in MATLAB: Implementing Convolutional Codes and the Viterbi Algorithm
# 2.1 Fundamental Concepts of Channel Coding Channel coding is the process of transforming an information bit sequence into a redundant bit sequence, with the aim of reliably transmitting information...
二进制运算的补码规则。
风哥有点田
04-17 4487
本文的直接思路来源是：https://www.codeproject.com/Articles/874396/Crunching-Numbers-with-AVX-and-AVX For example, suppose a vector contains signed bytes, so the maximum value for each element is 127 (0x7F). If...
前序和中序构建二叉树，层序遍历所构建的二叉树
风哥有点田
03-14 554
题目： 题目：由前序和中序遍历构造出二叉树，再由层序遍历打印出来。 提出问题：这里面的所有元素的值都是不同的，如果相同会发生什么情况。 参考一：https://blog.csdn.net/K346K346/article/details/50970464 参考二：https://blog.csdn.net/ns_code/article/details/13169703 图片： 流程...
关于字符串匹配计数和编程思想方法
风哥有点田
03-14 454
/* 题目如下： 使用VC6打开考生文件夹下的源程序文件modi2.cpp. 请完成fun(char* s1,char* s2),此函数的功能是计算s1 中出现s2的个数，当不出现时，则返回0. 如： s1为”1112223333aaaaeeffd” s2为”11”则返回1 s2为”aa”则返回2 */ 这是一道二级C++题目 一、首先，用基本的图解来描述一下思路： 二、
算法学习一：二叉树的前序中序后序遍历
风哥有点田
05-08 395
直接上代码： //二叉树前序后序中序排列。 #include //node instruct. template struct BTNode { BTNode *_lChild, *_rChild; T element; BTNode(const T &e){ element = e; _lChild = _rChild = NULL; } }; //compute tr
快排踩坑专篇
风哥有点田
02-27 218
设需要排序的序列为： int arr[]={1, 4, 8, 2, 55, 3, 4, 8, 6, 4, 0, 11, 34, 90, 23, 54, 77, 9, 2, 9, 4, 10}; 核心：在快排时候，我踩了一个坑，搞了两个晚上才看出来坑是什么。下面是实际推演： {1, 4, 8, 2, 55, 3, 4, 8, 6, 4, 0, 11, 34, 90, 23, 54, 77,...
viterbi algorithm
最新发布
04-22
### Viterbi Algorithm Explanation The **Viterbi algorithm** is a dynamic programming technique used primarily for finding the most likely sequence of hidden states—called the *Viterbi path*—in models such as Hidden Markov Models (HMMs). It operates based on two key probabilities: 1. The **transition probability**, which defines the likelihood of moving from one state to another. 2. The **emission probability**, which represents the likelihood of observing a particular symbol given a specific state. Mathematically, the goal is to maximize the joint probability \( P(L|O) \), where \( L \) denotes the label sequence and \( O \) represents the observation sequence. This can be expressed using Bayes' theorem: \[ P(L|O) = \frac{P(O|L)P(L)}{P(O)} \] Here, \( P(O|L) \) refers to the emission probability, while \( P(L) \) corresponds to the transition probability between labels[^4]. To compute this efficiently, the Viterbi algorithm employs recursion over time steps, maintaining both the maximum probability at each step and the corresponding optimal predecessor state. Below is an outline of its core components: #### Key Components - At any point in time \( t \), let \( v_t(j) \) denote the highest probability along a single path ending with state \( j \). - Let \( p_t(j) \) store the index of the previous state leading optimally to state \( j \). These values are updated iteratively according to the following equations: \[ v_{t}(j)=\max _{1 \leq i \leq N}\left[v_{t-1}(i)a(i,j)\right]b(j,o_{t}) \] Where: - \( a(i,j) \): Transition probability from state \( i \) to state \( j \), - \( b(j,o_t) \): Emission probability of emitting observation \( o_t \) when in state \( j \)[^4]. Once all sequences have been processed through the final stage, traceback begins starting from the terminal node having maximal value among possible end-states until reaching initial conditions. ### Python Implementation Example Below demonstrates a basic implementation utilizing numpy arrays for clarity purposes only; actual applications may require optimizations depending upon use cases. ```python import numpy as np def viterbi(obs_seq, trans_prob, emit_prob, init_prob): T = len(obs_seq) num_states = len(trans_prob) # Initialize matrices prob_matrix = np.zeros((T, num_states)) prev_state = np.zeros((T, num_states)) # Initialization Step for s in range(num_states): prob_matrix[0][s] = init_prob[s] * emit_prob[s][obs_seq[0]] # Recursion Steps for t in range(1, T): for s in range(num_states): max_val = -np.inf best_prev = None for sprev in range(num_states): val = prob_matrix[t-1][sprev]*trans_prob[sprev][s] if val > max_val: max_val = val best_prev = sprev prob_matrix[t][s] = max_val * emit_prob[s][obs_seq[t]] prev_state[t][s] = best_prev # Termination & Traceback last_best = np.argmax(prob_matrix[-1]) seq = [last_best] for t in reversed(range(T-1)): last_best = int(prev_state[t+1][last_best]) seq.append(last_best) return list(reversed(seq)), prob_matrix[-1][seq[-1]] # Sample Data Setup states = ('Rainy', 'Sunny') observations = ['walk', 'shop', 'clean'] start_probability = {'Rainy': 0.6, 'Sunny': 0.4} transition_probability = { 'Rainy' : {'Rainy': 0.7, 'Sunny': 0.3}, 'Sunny' : {'Rainy': 0.4, 'Sunny': 0.6}, } emission_probability = { 'Rainy' : {'walk': 0.1, 'shop': 0.4, 'clean': 0.5}, 'Sunny' : {'walk': 0.6, 'shop': 0.3, 'clean': 0.1}, } observation_map = {act:i for i, act in enumerate(observations)} init_p = np.array([start_probability[state] for state in states]) trn_p = np.array([[transition_probability[a][b] for b in states] for a in states]) emit_p = np.array([[emission_probability[a][b] for b in observations] for a in states]) sequence_indices = [observation_map[o] for o in ["walk", "shop"]] result_sequence, result_prob = viterbi(sequence_indices, trn_p, emit_p, init_p) print("Most probable sequence:", [states[i] for i in result_sequence], "\nProbability:", result_prob) ``` This script initializes parameters representing weather transitions alongside activities performed under certain circumstances before executing `viterbi` function call providing results accordingly.
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值