机器学习(六)采样方法
6.1 蒙特卡洛数值积分
计算f(x)f(x)的积分时,∫baf(x)dx∫abf(x)dx复杂不好求,可采用蒙特卡洛积分来近似
思想:
∫baf(x)dx=∫baf(x)q(x)q(x)dx∫abf(x)dx=∫abf(x)q(x)q(x)dx,把q(x)q(x)作为概率分布,f(x)q(x)f(x)q(x)作为函数
在q(x)q(x)下抽取n个样本,当n足够大时,可以均值1n∑if(xi)q(xi)1n∑if(xi)q(xi)来近似积分
证明:
E(g(X))=∑xg(x)f(x)E(g(X))=∑xg(x)f(x),已知X的概率分布为f(x)f(x),g(x)g(x)的概率分布未知,计算g(x)g(x)的期望
令:

本文介绍了机器学习中的采样方法,包括蒙特卡洛积分、拒绝采样和重要性采样。蒙特卡洛积分利用大数定律近似复杂积分;拒绝采样通过提议分布和接受条件实现,但存在高拒绝率问题;重要性采样针对难以直接采样的分布,利用易采样分布进行转换。文章还提到了均匀分布和Box-Muller变换在生成随机数中的应用。
最低0.47元/天 解锁文章
992

被折叠的 条评论
为什么被折叠?



