MCMC马尔可夫蒙特卡洛方法总结-Gibss吉布斯采样, Metropolis-Hastings方法

本文介绍了两种常见的马尔科夫链蒙特卡洛(MCMC)方法:Gibbs采样与Metropolis-Hastings采样。Gibbs采样通过按顺序对参数的不同部分进行条件采样来估计后验概率分布。Metropolis-Hastings方法则通过定义一个跳跃规则并在候选样本被接受的概率下更新参数,实现对复杂分布的采样。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Gibbs Sampling Gibbs采样

假设参数向量可以被分为M个子向量 

采样过程

假设 theta 服从先验分布 

1) 初始化

 


2) 分别计算

如 

用所有不为i的(M-1)个上一个阶段的子向量来抽样的条件概率,得到

分别抽样M次,得到M个子向量,合并得到 ;

 


3)    同理,可以从 抽样子向量再合并得到

最终我们得到的参数估计的序列

为一马尔科夫链,当收敛达到稳态时,为我们要估测的后验概率

参数的马尔科夫链达到稳态Stationary Distribution时,这个稳态分布即为后验概率Posterior Probability

MCMC的Sampler需要一个前N0次burn-in period的迭代,才能达到稳态;


Metropolis-Hastings方法

采样过程

1) 初始化 

2)   假设当前的参数为,根据Jumping 分布Jump生成一个Candidate 备选的参数向量,这个生成被选的分布J(x,y)也叫做Proposal Density;通常选择对称分布J(x,y)=J(y,x);

Jumping分布概率被接受的概率为min(r, 1),

J(t)为Proposal Density,通常取对称分布值比如高斯分布或者t分布,

 

3)    计算密度函数的比例r来判断是否接收


当一次Jump 使得概率密度上升(a>=1),则直接更新 ,继续迭代;

当一次Jump 使得概率密度下降(a<1),则以a的概率接收更新;

生成均匀分布,如果, 则接收,如果则拒绝接受,重新生成

 

4)    当J(t)不为对称分布时, 接受概率为min(r,1)




则最终参数形成了马尔科夫链


评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值