概率图模型6：条件随机场(1)

作者：孙相国

上一节我们讲述了概率无向图模型（又叫做马尔科夫随机场）本，节主要介绍条件随机场的定义、和概率计算问题。阅读本文的前提条件是博文《概率图模型5：无向图入门》

1. 条件随机场的定义

在上一节中，我们提到过马尔科夫随机场的定义，其中最重要的就是要满足局部马尔科夫性：在给定随机变量$v$的直接邻居$W$的条件下，随机变量$v$与其他非直接邻居是独立的。
条件随机场的含义是，如果我们马尔科夫随机场中的这些节点看成是样本的标签，统称为$Y$,样本的特征统称为$X$,那么，在给定序列$X$的条件下，我们称条件概率分布$P(Y|X)$为条件随机场（即条件为X时，Y的随机场）。

定义1：条件随机场

$$P(Y_v|X,Y_u,u \neq v)=P(Y_v|X,Y_w,w\sim v)$$ 对任意节点成立，则称条件概率分布$P(Y|X)$为条件随机场。式子中$w\sim v$表示图中$v$的直接邻居，$u \neq v$表示结点$v$意外的所有节点。事实上，这个式子与我们上一节说到的局部马尔科夫公式是一直的： $$P(Y_v|Y_w)=P(Y_v|Y_w,Y_o)$$

在标注问题中，我们常考虑的X,Y图结构是链状的，如图：

对于某一个标记结点$Y_i$，它的直接邻居为$Y_{i-1},Y_{i+1}$.这样，我们按照定义1，就可以得到条件随机场的一种特例：线性链条件随机场

定义2：线性链条件随机场

2.条件随机场的表示

上面的式子中$t,s$所表达的含义是什么呢？其实就是全排列中相邻连个变量的取值情况(t)和当前变量的取值情况(s)的一些假设。如果是这种情况，这些就取值为1，否则就取值为0。相当于选择函数。重要的不是$t,s$，而是他们对应的系数。

3. 概率计算问题

在之前的博客中，我们曾经详细探讨过隐马尔科夫的前向后向算法，并且给出了python代码实现。在条件随机场里，概率计算问题的原理与之前是一样的。这里贴出几张图。代码可以参考之前的博文。