【机器学习概率统计】16 蒙特卡洛思想与接受-拒绝采样

上一小节的末尾，我们留下了一个看上去非常复杂的问题，感觉无从下手，我们该如何去找到平稳分布恰好唯一就是目标采样分布的马尔科夫链呢？后续这两节内容，我们就重点带领大家以一种通用的方法，去寻找这个马尔科夫链。

1.应用蒙特卡洛方法进行样本采样

1.1.蒙特卡洛方法理论支撑

在最开始，我们先不急着去寻找马尔科夫链，把有关马尔科夫的事儿先统统放在一旁不管。首先介绍这个过程中所运用到的**“拒绝-接受”**操作技巧和他背后的思想方法。

在前面介绍的贝叶斯统计推断方法中我们是基于纯解析的方法，通过手动计算后验概率分布的方法得到了随机变量的分布。但是问题来了，实际中计算出来的随机变量分布模型一般都非常复杂，想直接通过分布来得到采样样本进而去计算和分析他的统计数字特征（均值、方差、偏度、分位数等到）基本上是不可能的。

然而我们思考一下，在前面介绍蒙特卡罗方法的时候，我们曾经尝试用近似计算的方法去计算任何一个不规则二维图形的面积，换句话说就是，精确解析的方法不行的时候，我们就采用大量样本近似的方法去对问题进行近似求解，在大数定理的支撑下，这种大样本近似方法最终的期望是和精确解是一致的，这就是蒙特卡洛方法的理论支撑。

1.2.利用蒙特卡洛方法采样的想法

那么把这个思想迁移到这里，我们会想，我们能否从复杂的、无法通过解析方法求得的后验分布中随机抽取出数据，让这些样本数据总体上服从后验的分布，然后在此前提基础上，通过大量的随机采样，对这些样本进行均值、方差的计算，然后以此估计出分布的数字特征。

其实回顾之前的章节，我们曾经通过