概率图模型笔记(8)——Inference Variable Elimination

最新推荐文章于 2022-10-25 16:22:42 发布

原创

最新推荐文章于 2022-10-25 16:22:42 发布 · 4.3k 阅读

3 ·

CC 4.0 BY-SA版权

文章标签：

#概率图模型 #变量消除 #VE

本文详细介绍了概率图模型中的变量消除算法，包括条件概率查询、MAP推断，以及变量消除的步骤、复杂性和优化策略。讨论了消除顺序对算法效率的影响，并提到了如何从贝叶斯网转换到马尔可夫网，以及导出图的概念和其在推断过程中的作用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

8.1 Overview-Conditional Probability Queries

8.1.1 Conditional Probability Queries
　　定义如下三个内容:
　　(1)证据： $E=e$
　　(2)问题：变量集 $Y$
　　(3)任务：计算 $P(Y|E=e)$
8.1.2 和-积
　　除了问题变量所在的因子，在每个因子上轮流取不同的值并将各个因子做乘积，不同的取值的因子积之和为问题变量的联合分布 $P$ ，如果不进行归一化则记为 $\tilde{P}$ 。
8.1.3 证据：减少因子
　　对于给定了证据的计算任务 $P(Y|E=e)$ ，其计算方法和8.1.2小结的方法基本类似，不同在于需要在因子中划去 $E=e$ 以外的分布。
　　需要注意到的是，可以先计算 $P(y,e)=∑_{w}P(y,e,w)$ ，然后利用 $P(e)=∑_{y}P(y,e)$ 来进行计算，并在最后重新进行归一化。其中 $w$ 是变量中除了 $y$ 和 $e$ 以外的变量集。
8.1.4 条件概率的算法
　　(1)Push summations into factor product
　　例如变量消除法，它是精确推理的一种，同时也被称为动态工程。
　　(2)message passing over a graph
　　例如信念传播，变分近似。
　　(3)Random sampling instantiations
　　例如MCMC以及重要性抽样。