序列的算法(一 b)隐马尔可夫模型

本文深入解析了Unigram模型与马尔可夫模型的原理及应用,阐述了序列概率预测的基础理论,包括独立事件的概率计算及一阶马尔可夫过程的最大似然估计。
                     

##序言

本系列对算法的讲解都会从两篇部分予以呈现:

a. 湿货部分要浅入浅出,形象生动,读得明白。
b. 干货部分要一文以蔽之,公式罗列,看得通透;


下面是(一)的 b 部分内容


#Unigram
Unigram模型认为序列中的每一项都是独立发生的,所以很自然,假设我们有N个序列,每个序列长度是MnM n MnM n MnM n p(v)=count()count(v)
这是一个非常符合直觉的公式,一个term出现的概率就是它在训练数据里的频率,所以甚至有人会觉得这就是常识,但实际上背后是有数学推导支撑的

#马尔可夫模型
按照上面类似的逻辑,一阶马尔可夫的最大似然估计就是
p(xt=vi,xt+1=vj)=count(vi,vj)count(vi,∗)p(x t =v i ,x p(xt=vi,xt+1=vj)=count(vi,vj)count(vi,∗)p(x t =v i ,x p(xt=vi,xt+1=vj)=count(vi,vj)count(vi,)p(x t =v i ,x 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值