分享一篇很有启发的NER论文,少样本却大收益~
背景
工业界目前所用方法多为Bert-BiLSTM-CRF,并结合规则去实现稳定的NER方法。
其中数据集的标注,是至关重要的,数据集标注方式的不同,以及正确率等因素的影响,会直接影响到模型上线后的效果。
如何以低成本、高效益的方式完成NER是一个重要的问题。该文引入了 entity triggers (实体触发器),在数据中标注 trigger,以 trigger 的角度增加 NER 效果,20% 的数据量便能够达到以往 70% 数据量的效果。
Entity triggers是什么
1.把 Kasdfrcxzv 标记为 Location,因为其中有一个短语是 “travel … in”,根据这个短语,我们可以认定我们的标记是正确的。这样的短语是实体的线索短语,称之为 entity triggers。
本文的重点就在于认为将 trigger 标记和以往的实体标记结合起来,增加NER模型的泛化能力
2.即使实体是个随机的单词或者不认识这个实体,也能够通过 trigger 判断出所属实体的类型。
3.如果能够推理出 “enjoyed a great dinner…at” 和上图中已经存在的 “had…launch at” 具有相同的语义表示,我们便能够很快将 Zcxlbz 识别为RES 类型的实体。相反的,如果没有标记 trigger,仅仅标记了实体,便需要有大量类似的样本数据才能够识别出新的实体。(正因为存在这个推理的过程,才达到了少样本高收益的效果)
方法
实验
