Gibbs Sampling Gibbs采样
假设参数向量可以被分为M个子向量
采样过程
假设 theta 服从先验分布
1) 初始化
2) 分别计算
如
用所有不为i的(M-1)个上一个阶段的子向量来抽样的条件概率,得到 ;
分别抽样M次,得到M个子向量,合并得到 ;
3) 同理,可以从 抽样子向量再合并得到
;
最终我们得到的参数估计的序列
为一马尔科夫链,当收敛达到稳态时,为我们要估测的后验概率
参数的马尔科夫链达到稳态Stationary Distribution时,这个稳态分布即为后验概率Posterior Probability
MCMC的Sampler需要一个前N0次burn-in period的迭代,才能达到稳态;
Metropolis-Hastings方法
采样过程
1) 初始化
2) 假设当前的参数为,根据Jumping 分布Jump
生成一个Candidate
备选的参数向量
,这个生成被选的分布J(x,y)也叫做Proposal Density;通常选择对称分布J(x,y)=J(y,x);
Jumping分布概率被接受的概率为min(r, 1),
J(t)为Proposal Density,通常取对称分布值比如高斯分布或者t分布,
3) 计算密度函数的比例r来判断是否接收
当一次Jump 使得概率密度上升(a>=1),则直接更新 ,继续迭代;
当一次Jump
使得概率密度下降(a<1),则以a的概率接收更新;
生成均匀分布,如果
,
则接收
,如果
则拒绝接受,重新生成
4) 当J(t)不为对称分布时, 接受概率为min(r,1)
则最终参数形成了马尔科夫链