蒙特卡洛方法

参考这篇文章 https://www.cnblogs.com/pinard/p/6625739.html
这篇文章的 motivation 就是计算一个不太好计算的定积分。
以为一般情况下，在统计中，只是对概率密度函数求积分的情况比较多；其实有时候，也会对概率分布函数求积分，像是在算数学期望的时候。比如 https://blog.youkuaiyun.com/itnerd/article/details/85545524

1.蒙特卡洛方法引入
最初的蒙特卡洛是为了估计一些不太好有解析解的求和或者积分问题。概率里面的求和或者积分一般都与概率分布函数有关。

2.概率分布采样
如果已知概率分布，如何基于这个概率分布来采样？
“”“
对于常见的均匀分布𝑢𝑛𝑖𝑓𝑜𝑟𝑚(0,1)是非常容易采样样本的，一般通过线性同余发生器可以很方便的生成(0,1)之间的伪随机数样本。而其他常见的概率分布，无论是离散的分布还是连续的分布，它们的样本都可以通过𝑢𝑛𝑖𝑓𝑜𝑟𝑚(0,1)的样本转换而得。
“”“
如果感兴趣的随机变量的分布，不是这些常见的分布，那么如何采样呢？

3.接受-拒绝采样
用某一个概率分布来估计另外一个概率分布。
“”“
对于概率分布不是常见的分布，一个可行的办法是采用接受-拒绝采样来得到该分布的样本。既然 𝑝(𝑥) 太复杂在程序中没法直接采样，那么我设定一个程序可采样的分布 𝑞(𝑥) 比如高斯分布，然后按照一定的方法拒绝某些样本，以达到接近 𝑝(𝑥) 分布的目的，其中𝑞(𝑥)叫做 proposal distribution。
“”“
4. 蒙特卡洛方法小结
马尔可夫链可以帮助找到这些复杂概率分布的对应样本集。