论文浅尝-Improving Neural Fine-Grained Entity Typing with Knowledge Attention

本文提出一种融合知识-注意力的神经网络模型,用于细粒度实体分类任务。模型结合实体提及、上下文及知识库信息,通过三种注意力机制(语义、实体、知识)增强特征提取,实现更精准的实体类型预测。

这是一篇来自清华2018年的paper。
文章做的是基于知识注意力机制的细粒度实体分类任务(Fine-Grained Entity Typing)。
任务介绍:
给定一个句子,其中包含一个实体和它的上下文,以及一组实体类型,我们的模型旨在预测所提到的实体的每种类型的概率。
**提出问题:**大多数现有的方法通常分别从实体提及和上下文单词中提取特征来进行实体类型分类。这些方法不能对实体提及和上下文词之间的复杂关系进行建模,同时也忽视了知识库中关于这些实体的丰富背景信息。
贡献:(1)将knowledge base的信息引入特征向量.(2)将实体提及和它们的上下文联系起来,从而提出了融合知识-注意力的神经网络细粒度实体分类模型。
**模型:**模型分为两部分1)将句子s编码成特征向量x的句子编码器。2)类型预测器,通过从x计算y来推断实体类型。

在这里插入图片描述
**Knowledge Representation Learning:**知识表示学习(KRL)是将三元组中的实体和关系的语义信息编码到低维语义空间中,该部分使用TransE。
Sentence encoder:特征向量x包括entity mention representation m、context representations c
在这里插入图片描述
Entity mention representation:

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值