16、马尔可夫随机场模型确定与应用

马尔可夫随机场模型确定与应用

1. 模型确定问题提出

在许多问题中，我们会设定一个约束矩阵 $L$，比如膜和薄板先验。多数情况下，$L$ 中的约束是局部的，涉及相邻状态元素间的相互作用，此时 $L^T L$ 是稀疏带状矩阵，这意味着我们隐式地为随机域指定了马尔可夫先验。实际上，只要存在局部约束，或者协方差逆矩阵被建模为稀疏带状，我们就应立即意识到隐含的先验是马尔可夫的。

但很多时候，我们没有给定带状逆矩阵或一组约束，而是得到一个样本随机域，我们希望从中推断出马尔可夫模型。不过，计算样本协方差会遇到两个难题：
- 样本协方差的矩阵逆通常不是理想的带状矩阵。大多数情况下，给定的随机域并非精确的马尔可夫域，但我们希望对其进行近似。而且，即使给定的随机域确实是马尔可夫的，样本统计量也可能不是。
- 任何样本协方差都保证是半正定的。若样本协方差是正定的，我们可以计算其矩阵逆，该逆矩阵也将是正定的，但将矩阵逆截断成带状可能会使其不再正定。

因此，我们的任务是进行模型近似。给定样本统计量 $P$，我们要找到一个矩阵 $G$，满足以下条件：
1. 马尔可夫性：$G$ 是稀疏带状的。
2. 有效性：$G$ 是正定的。
3. 模型拟合：$G^{-1} \approx P$。

马尔可夫随机场本质上是自回归过程的非因果、多维版本。所以，我们先讨论自回归过程的模型学习，再处理更复杂的马尔可夫过程学习问题。

2. 自回归模型学习

自回归模型是经典且成熟的时间序列建模方法，我们希望用 $n$ 阶自回归过程来近似给定的平稳时间序列 $z(t)$：
[z(t) = \sum_{i=1}^{n