多实例学习在远监督中的应用
1. 引言
多实例学习(Multi-instance Learning, MIL)作为一种弱监督学习方法,近年来在自然语言处理领域得到了广泛应用,尤其是在关系抽取(Relation Extraction, RE)任务中。传统的监督学习方法通常要求每个训练样本都有明确的标签,而在现实世界中,获取高质量的标注数据往往成本高昂且耗时。远监督(Distant Supervision, DS)通过利用现有的知识库和大规模文本语料库自动生成大量的训练数据,大大降低了数据标注的成本。然而,远监督生成的数据中往往存在噪声,这会影响模型的性能。为此,多实例学习提供了一种有效的方法来缓解这些问题。
2. 多实例学习简介
多实例学习是一种弱监督学习的形式,其中标签被赋予一组实例(称为包或袋),而不是单个实例。在关系抽取任务中,每个实体对对应一个包,包内的句子可能包含或不包含该实体对之间的关系。具体来说,多实例学习假设如果实体对之间存在某种关系,则包中至少有一个句子表达了这种关系。
2.1 多实例学习的基本概念
- 包(Bag) :一组实例的集合,每个包有一个标签。
- 实例(Instance) :包中的单个元素,通常是一句话。
- 正包(Positive Bag) :至少包含一个正实例的包。
- 负包(Negative Bag) :所有实例均为负实例的包。