这是一篇来自清华2018年的paper。
文章做的是基于知识注意力机制的细粒度实体分类任务(Fine-Grained Entity Typing)。
任务介绍:
给定一个句子,其中包含一个实体和它的上下文,以及一组实体类型,我们的模型旨在预测所提到的实体的每种类型的概率。
**提出问题:**大多数现有的方法通常分别从实体提及和上下文单词中提取特征来进行实体类型分类。这些方法不能对实体提及和上下文词之间的复杂关系进行建模,同时也忽视了知识库中关于这些实体的丰富背景信息。
贡献:(1)将knowledge base的信息引入特征向量.(2)将实体提及和它们的上下文联系起来,从而提出了融合知识-注意力的神经网络细粒度实体分类模型。
**模型:**模型分为两部分1)将句子s编码成特征向量x的句子编码器。2)类型预测器,通过从x计算y来推断实体类型。

**Knowledge Representation Learning:**知识表示学习(KRL)是将三元组中的实体和关系的语义信息编码到低维语义空间中,该部分使用TransE。
Sentence encoder:特征向量x包括entity mention representation m、context representations c。

Entity mention representation:

本文提出一种融合知识-注意力的神经网络模型,用于细粒度实体分类任务。模型结合实体提及、上下文及知识库信息,通过三种注意力机制(语义、实体、知识)增强特征提取,实现更精准的实体类型预测。
最低0.47元/天 解锁文章

被折叠的 条评论
为什么被折叠?



