42、集体分类：原理、方法与应用

集体分类：原理、方法与应用

1. 集体分类的定义与动机

在现实世界中，许多分类问题可以描述为一组通过链接相互连接形成网络结构的对象。网络中的链接表示实例之间的关系，这些实例的类别标签通常是相关的。例如，若知道一个网页所链接的其他网页的主题，就更容易预测该网页的主题；若知道句子中前一个单词是名词，那么某个特定单词是动词的可能性就会增加。

传统机器学习在解决分类问题时，如文档主题分类、邮件垃圾识别、词性标注等，往往假设实例是独立同分布（IID）的，即孤立地预测每个实例的类别标签。然而，在很多情况下，如果知道相关类别标签的正确分配，待确定值的类别标签预测会更准确。近十年来，许多研究人员提出了联合或集体分类样本的技术，并且在分类准确性上取得了显著提升。集体分类的目标是共同确定网络中所有对象的正确标签分配。

2. 集体分类的理论基础

集体分类是一个组合优化问题。给定一组节点 (V = {v_1, \cdots, v_n}) 和一个邻域函数 (N)（其中 (N_i \subseteq V \setminus {v_i}) 描述了底层网络结构），每个节点 (v_i) 是一个随机变量，其取值来自适当的域 (L = {l_1, \cdots, l_q})。节点集合 (V) 进一步分为两个子集：已知正确值的节点集合 (X)（观测变量）和需要确定值的节点集合 (Y)。我们的任务是为 (Y) 中的节点 (y_i) 分配 (L) 中的预定义标签。

3. 集体分类的方法

集体分类有多种方法，不同方法旨在利用不同类型的信息来实现正确分类，下面介绍几种常见的方法：
- 关系分类
传统分类