47、推理算法与优化方法解析

推理算法与优化方法解析

一、团树算法相关内容

1. 团树算法特性
   • 在证据丰富的情况下，团树算法会有显著的简化效果。特别是在具有上下文特定独立性的网络中，这种特定情境下的简化更为常见。
   • 标准实现中，团树里的团通常是三角化图中的最大团，团树计算操作也较为标准，即将传入消息与团信念相乘来生成传出消息，但此方法并非总是最优。
2. 算法改进思路
   • 可以在获取证据后在线定义团树，这样团树结构能利用证据带来的简化，但会失去离线预计算团树的优势。
   • 也能在变量消除执行过程中存储中间结果，再进行向下传递以获取所有变量的边际后验，这样可复用计算，但需额外空间。
3. 相关算法发展历程
   • Pearl在1988年提出类似多树算法的节点聚类方法以生成多树，但效率较低。
   • Shenoy和Shafer在1990年开发了团树中的和积消息传递算法，该算法形式更宽泛，适用于多种因式分解模型。
   • Lauritzen和Spiegelhalter以及Jensen等人在1988 - 1990年并行发展了和积 - 除法方法，此方法将消息传递操作视为对原始分布的重新参数化，为后续工作提供了重要思路，还成为了Hugin贝叶斯网络系统的基础，该方法也常被称为“Hugin算法”。
4. 团树算法效率优化