概率图模型深度解析：从贝叶斯网络到隐马尔可夫模型

1. 概率图模型基础与核心概念

1.1 概率图模型的意义与分类

概率图模型（Probabilistic Graphical Model, PGM）通过图结构表达随机变量间的依赖关系，将复杂的概率分布分解为局部结构的组合。其两大分支为：

• 有向图模型（贝叶斯网络）：用有向边表示因果关系，如学生智力→SAT成绩。
• 无向图模型（马尔可夫网络）：用无向边表示相关性，常用于图像分割等场景。

图模型的核心优势在于：

1. 显式表达变量间的条件独立性
2. 降低高维联合概率计算复杂度
3. 支持因果推理与概率推断

1.2 贝叶斯定理与条件独立性

贝叶斯定理是概率推理的基石：
$$P(Y|X)=\frac{P(X|Y)P(Y)}{P(X)}$$
条件独立性判定规则（以变量A、B、C为例）：

1. 链式结构（A→B→C）：若B已知，则A与C独立，即$P(A,C|B)=P(A|B)P(C|B)$
2. 分叉结构（A←B→C）：若B已知，则A与C独立
3. V型结构（A→B←C）：若B未知，则A与C独立；若B已知，则A与C相关

2. 贝叶斯网络建模与推理

2.1 网络结构与参数学习

以医疗诊断系统为例，构建包含症状（发烧、咳嗽）、疾病（流感、肺炎）、检查结果（X光片）的贝叶斯网络：

联合概率分解为：
$$P(F,C,I,P,X)=P(I)P(P)P(F|I,P)P(C|I,P)P(X|P)$$

参数学习方法：

• 最大似然估计（MLE）：直接统计样本频率
• 贝叶斯估计：引入先验分布（如Dirichlet分布）

2.2 精确推理算法

变量消去法（Variable Elimination）通过逐步消除变量计算边际概率。以计算$P(X|F=1)$为例：

1. 构建因子乘积：$f_1(I,P,F=1)f_2(I,P,C)f_3(P,X)$
2. 消去变量I：∑If1(I,P,1)\sum_I f_