CRF（条件随机场）原理

转载 CRF条件随机场简单解释
详细解释： NLP —— 图模型（二）条件随机场（Conditional random field，CRF）

问题的引入

假设你有许多小明同学一天内不同时段的照片，从小明提裤子起床到脱裤子睡觉各个时间段都有（小明是照片控！）。现在的任务是对这些照片进行分类。比如有的照片是吃饭，那就给它打上吃饭的标签；有的照片是跑步时拍的，那就打上跑步的标签；有的照片是开会时拍的，那就打上开会的标签。问题来了，你准备怎么干？

一个简单直观的办法就是，不管这些照片之间的时间顺序，想办法训练出一个多元分类器。就是用一些打好标签的照片作为训练数据，训练出一个模型，直接根据照片的特征来分类。例如，如果照片是早上6:00拍的，且画面是黑暗的，那就给它打上睡觉的标签;如果照片上有车，那就给它打上开车的标签。

这样可行吗？

乍一看可以！但实际上，由于我们忽略了这些照片之间的时间顺序这一重要信息，我们的分类器会有缺陷的。举个例子，假如有一张小明闭着嘴的照片，怎么分类？显然难以直接判断，需要参考闭嘴之前的照片，如果之前的照片显示小明在吃饭，那这个闭嘴的照片很可能是小明在咀嚼食物准备下咽，可以给它打上吃饭的标签；如果之前的照片显示小明在唱歌，那这个闭嘴的照片很可能是小明唱歌瞬间的抓拍，可以给它打上唱歌的标签。

所以，为了让我们的分类器能够有更好的表现，在为一张照片分类时，我们必须将与它相邻的照片的标签信息考虑进来。这——就是条件随机场(CRF)大显身手的地方！

从例子说起——词性标注问题

啥是词性标注问题？

非常简单的，就是给一个句子中的每个单词注明词性。比如这句话：“Bob drank coffee at Starbucks”，注明每个单词的词性后是这样的：“Bob (名词) drank(动词) coffee(名词) at(介词) Starbucks(名词)”。

下面，就用条件随机场来解决这个问题。

以上面的话为例，有5个单词，我们将：(名词，动词，名词，介词，名词)作为一个标注序列，称为l，可选的标注序列有很多种，比如l还可以是这样：（名词，动词，动词，介词，名词），我们要在这么多的可选标注序列中，挑选出一个最靠谱的作为我们对这句话的标注。

怎么判断一个标注序列靠谱不靠谱呢？

就我们上面展示的两个标注序列来说，第二个显然不如第一个靠谱，因为它把第二、第三个单词都标注成了动词，动词后面接动词，这在一个句子中通常是说不通的。

假如我们给每一个标注序列打分，打分越高代表这个标注序列越靠谱，我们至少可以说，凡是标注中出现了动词后面还是动词的标注序列，要给它负分！！

上面所说的动词后面还是动词就是一个特征函数，我们可以定义一个特征函数集合，用这个特征函数集合来为一个标注序列打分，并据此选出最靠谱的标注序列。也就是说，每一个特征函数都可以用来为一个标注序列评分，把集合中所有特征函数对同一个标注序列的评分综合起来，就是这个标注序列最终的评分值.

定义CRF中的特征函数

现在，我们正式地定义一下什么是CRF中的特征函数，所谓特征函数，就是这样的函数，它接受四个参数：

• 句子s（就是我们要标注词性的句子）
• i，用来表示句子s中第i个单词
• $l_i$，表示要评分的标注序列给第i个单词标注的词性
• $l_{i-1}$，表示要评分的标注序列给第i-1个单词标注的词性

它的输出值是0或者1,0表示要评分的标注序列不符合这个特征，1表示要评分的标注序列符合这个特征。
Note:这里，我们的特征函数仅仅依靠当前单词的标签和它前面的单词的标签对标注序列进行评判，这样建立的CRF也叫作线性链CRF，这是CRF中的一种简单情况。为简单起见，本文中我们仅考虑线性链CRF。

从特征函数到概率

定义好一组特征函数后，我们要给每个特征函数$f_j$赋予一个权重${\lambda }_j$。现在，只要有一个句子s，有一个标注序列l，我们就可以利用前面定义的特征函数集来对l评分。

$$score(l|s)=\sum _{j=1}^m\sum _{i=1}^n{\lambda }_j{f}_j(s,i,l_i,l_{i-1})$$
上式中有两个求和，外面的求和用来求每一个特征函数$f_j$评分值的和，里面的求和用来求句子中每个位置的单词的的特征值的和。对这个分数进行指数化和标准化，我们就可以得到标注序列l的概率值$p(l|s)$，如下所示:

$$\begin{array}{rl}p(l|s)& =\frac{exp[score(l|s)]}{{\sum }_{l^{\prime }}exp[score(l^{\prime }|s)]}\\ & =\frac{exp[{\sum }_{j=1}^m{\sum }_{i=1}^n{\lambda }_j{f}_j(s,i,l_i,l_{i-1})]}{{\sum }_{l^{\prime }}exp[{\sum }_{j=1}^m{\sum }_{i=1}^n{\lambda }_j{f}_j(s,i,l_i^{\prime },l_{i-1}^{\prime })]}\end{array}$$

几个特征函数的例子

$$f_1(s,i,l_i,l_{i-1})=1$$
当$l_i$是“副词”并且第i个单词以“ly”结尾时，我们就让$f_1=1$，其他情况$f_1=0$。不难想到，$f_1$特征函数的权重${\lambda }_1$应当是正的。而且${\lambda }_1$越大，表示我们越倾向于采用那些把以“ly”结尾的单词标注为“副词”的标注序列.
$$f_2(s,i,l_i,l_{i-1})=1$$
如果i=1，$l_i$=动词，并且句子s是以“？”结尾时，$f_2=1$，其他情况$f_2$=0。同样，${\lambda }_2$应当是正的，并且${\lambda }_2$越大，表示我们越倾向于采用那些把问句的第一个单词标注为“动词”的标注序列。
$$f_3(s,i,l_i,l_{i-1})=1$$
当$l_{i-1}$是介词，$l_i$是名词时，$f_3=1$，其他情况$f_3=0$。${\lambda }_3$也应当是正的，并且${\lambda }_3$越大，说明我们越认为介词后面应当跟一个名词。
$$f_4(s,i,l_i,l_{i-1})=1$$
如果$l_i$和$l_{i-1}$都是介词，那么$f_4=1$，其他情况$f_4=0$。这里，我们应当可以想到${\lambda }_4$是负的，并且${\lambda }_4$的绝对值越大，表示我们越不认可介词后面还是介词的标注序列.