马尔可夫性和图模型中的马尔可夫性的比较探究

马尔可夫性和图模型中的马尔可夫性的比较探究

经典马尔可夫性和图模型中的马尔可夫性，它们看起来名字相似但定义不同，容易让人混淆。但实际上，它们不仅有关联，而且是“基础马尔可夫性”在不同层次和结构上的推广和精确化。

---

1. 经典马尔可夫性 (Markov Property)

首先，回顾一下我们最熟悉的“马尔可夫性”。它通常指的是马尔可夫过程（如马尔可夫链）的性质。

• 核心定义：一个过程是马尔可夫的，当且仅当 “未来只依赖于现在，而与过去无关”。
• 数学表达：对于时间序列 X₁, X₂, …, Xₜ，其性质为：
  P(Xₜ₊₁ | X₁, X₂, …, Xₜ) = P(Xₜ₊₁ | Xₜ)
• 比喻：明天的天气只取决于今天的天气，而与昨天的天气无关。

这个定义局限于时序结构，变量之间有明确的顺序（过去、现在、未来）。

---

2. 图模型中的马尔可夫性

当我们从时序序列进入到更复杂的图结构（如马尔可夫随机场）时，我们需要更一般的工具来描述变量间的条件独立性。成对、局部、全局马尔可夫性就是为此而生的。它们描述的是在一个无向图中节点集之间的独立性关系。

假设我们有一个无向图 G，它由节点集合 V（代表随机变量）和边集合 E 组成。

a) 成对马尔可夫性 (Pairwise Markov Property)

• 定义：给定图中所有其他变量，如果任意两个没有边直接连接的变量是条件独立的，则满足成对马尔可夫性。
• 数学表达：对于图中任意两个没有边直接相连的节点 u 和 v，都有：
  (Xᵤ ⫫ Xᵥ | X_{V{u, v}})
  符号解读：Xᵤ ⫫ Xᵥ 表示 Xᵤ 和 Xᵥ 独立，| 后面是条件。
• 理解：这是最直观的图上的独立性。如果两个节点没有直接连接，说明它们的依赖关系必须通过其他节点来中介。当所有这些中介节点都被“固定”（作为条件）时，它们俩就变得独立了。它是三者中最弱的一条性质。

b) 局部马尔可夫性 (Local Markov Property)

• 定义：给定一个变量的所有直接邻居，这个变量与图中所有其他变量条件独立。
• 数学表达：对于任意节点 v，令 N(v) 是其所有邻居节点的集合。那么有：
  (Xᵥ ⫫ X_{V \ cl(v)} | X_{N(v)})
  其中 cl(v) = {v} ∪ N(v) 是节点 v 及其邻居的集合。
• 理解：这直接类比了经典的马尔可夫性。一个变量的“现在”是其所有邻居，“过去和未来”是图中所有其他非邻居变量。局部马尔可夫性说，一个变量只要知道了它的“现在”（直接邻居），它就与“过去和未来”（其他所有变量）无关了。它比成对性质更强。

c) 全局马尔可夫性 (Global Markov Property)

• 定义：这是最强大、最一般化的定义。如果图中任意两个节点子集 A 和 B 被另一个节点子集 C 图分离（即所有从 A 到 B 的路径都必须经过 C），那么给定 C，A 和 B 条件独立。
• 数学表达：如果 C 在图 G 中分离了 A 和 B，那么：
  (X_A ⫫ X_B | X_C)
• 理解：全局马尔可夫性是图结构的终极体现。它从整体的视角出发，只要信息流动的路径被完全阻断（由 C 分离），那么两边的变量集就相互独立。这是三者中最强的性质。

---

关联与演进关系

1. 思想内核一脉相承：
几种马尔可夫性的核心思想都是条件独立性。经典马尔可夫性说的是“给定现在，未来与过去独立”。而图模型中的三种性质说的是“给定邻居/分离集，变量与变量集独立”。本质上都是在描述：已知某些信息（条件）后，另一些信息就变得无关（独立）了。

2. 从时序到图结构的推广：
可以将经典的马尔可夫链看作一个非常简单的线性链状无向图：
... -- X_{t-1} -- X_t -- X_{t+1} -- ...

• 在这个链上，Xₜ 的邻居就是 {Xₜ₋₁, Xₜ₊₁}。
• 局部马尔可夫性：给定 Xₜ 的邻居 {Xₜ₋₁, Xₜ₊₁}，Xₜ 与所有其他变量独立。这看起来和经典定义不同，但其实是等价的。
• 全局马尔可夫性：如果取 A = {过去的所有变量}, B = {未来的所有变量}, C = {现在的变量 Xₜ}。由于 Xₜ 在图中分离了过去和未来，根据全局马尔可夫性，就有 (X_过去 ⫫ X_未来 | Xₜ)，这完美地复现了经典马尔可夫性的定义。

所以，全局马尔可夫性是无向图模型上最根本的马尔可夫性质，而经典马尔可夫性只是它在链式图这个特例上的体现。

3. 层级关系：
在很一般的条件下（如正概率分布），这三个性质是等价的。
全局马尔可夫性 ⇒ 局部马尔可夫性 ⇒ 成对马尔可夫性
但反过来，从成对或局部性质也可以推出全局性质（这需要一些证明）。这意味着，只要分布满足最弱的成对性质，它就自动满足了最强的全局性质。因此，在实践中，我们只需要验证最简单的成对性质即可。

---

总结

性质	描述范围	与经典马尔可夫性的关系	强度
经典马尔可夫性	时序序列	基础、源头	特例
成对马尔可夫性	图中任意两个非相邻节点	在图结构上的第一种推广	最弱
局部马尔可夫性	图中单个节点与其非邻居	更接近“给定现在，与其它无关”的思想	中等
全局马尔可夫性	图中任意两个被分离的集合	是经典马尔可夫性在图上的终极和一般形式	最强