83、动态系统中的近似推理方法

动态系统中的近似推理方法

1. 近似推理概述

在许多情况下，精确推理所面临的计算难题迫使我们采用近似推理方法。从原理上讲，当把动态贝叶斯网络（DBN）视为一个展开的大型贝叶斯网络（BN）时，我们可以应用之前讨论过的任何适用于BN的近似推理算法。例如，在对并行演化的弱耦合过程进行推理时，变分方法就取得了显著的成功。

然而，在这种情况下会出现一些复杂的问题。首先，在时间序列场景中，我们要处理的任务通常涉及对任意大且可能无界的轨迹进行推理。尽管我们可以通过对展开的DBN进行推理来解决这些任务，但在推理过程中需要维护整个展开的BN的算法可能并不实用。此外，对于近似推理，还存在一个额外的问题：对于有界大小的静态网络能实现合理误差的近似推理算法，在任意大的网络中可能效果不佳，而且近似质量可能会随着网络规模的增大而下降。

在后续内容中，我们将重点关注过滤任务。与精确推理类似，为过滤任务开发的方法可以直接扩展到预测任务，并且经过一些调整后还能用于有界前瞻的平滑任务。目前已经提出了许多用于动态系统近似跟踪的算法，我们将先介绍一个涵盖这些算法的通用框架，然后详细描述两种在实际中常用的具体方法，一种基于消息传递，另一种基于采样。

2. 关键思想

2.1 有界历史更新

在不维护完整历史的情况下处理过滤（或预测）任务的通用方法与精确过滤的方法相关。在精确过滤中，我们在团树中按时间顺序向前传递消息，这样在处理完之前时间片的观测值和团之后，就可以将它们丢弃。

原则上，同样的思想也可以应用于近似推理：我们可以对一个时间片执行适当的推理步骤，然后推进到下一个时间片。然而，大多数近似推理算法在推理过程中需要多次访问网络中的同一变