78、混合网络推理与非线性依赖处理

混合网络推理与非线性依赖处理

1. 混合网络中的消息融合与EP算法

在混合网络中，将消息 $\delta_{2→1}$ 并入团 ${A, X}$ 时，需要将其除以消息 $\mu_{1,2}$，并将 $\beta_1(A, X)$ 中的每个条目乘以所得商 $\frac{\delta_{2→1}}{\mu_{1,2}}$。例如，当 $A = a_1$ 时，执行操作：
[
\frac{N(0; 6) \cdot N(0; 15.93)}{N(0; 4)}
]
此操作可使用规范形式 $C(K, h, g)$ 进行，其中 $K$ 表示协方差矩阵的逆，即 $K = \Sigma^{-1}$。在一维高斯分布的情况下，$K = \frac{1}{\sigma^2}$。根据相关方程，乘积和除法操作可简化为系数 $K$ 的加法和减法。因此，所得势的 $K$ 值为：
[
\frac{1}{6} + \frac{1}{15.93} - \frac{1}{4} = -0.0206 < 0
]
然而，$K < 0$ 并不代表合法的高斯分布，因为它对应于 $\sigma^2 = \frac{1}{-0.0206}$，这不是合法的方差。不过，这种情况在实际中并不常见，所以尽管存在这种复杂性，EP 算法的信念更新变体在实践中仍经常被使用。

2. Lauritzen算法：CLG网络的折衷方案

对于 CLG 网络，通常无法得到真正精确的答案，因为 CLG 分布是可能指数级多的高斯假设的混合，单个变量的边际分布也可能是指数级大的混合。Lauritzen 算法在正确性和计算效率之间提供了一种折衷方案。