Document Embedding Enhanced Event Detection with Hierarchical and Supervised Attention解读

创新点

本文引入了文档特征来丰富token的信息,单纯依靠本句子的信息有时候未必足够,可以借助其他句子的信息来进行补充,主要就是结合文档级别的信息,加入到原本的ED任务中。具体建模方法如图1,红框就是补充的文档特征信息,最后与其他信息一起concat到LSTM模型中。但从实验结果来看(如图2),在ACE 2005上是所有方法中效果最好的。

图1
在这里插入图片描述

模型

1.The EDODEL Module
通过设计良好的分层和监督的注意机制,从单词和句子两个层次学习文档的分布式表示。

2.The DEED Module
根据学习到的文档嵌入,为每个触发器候选对象标记事件类型。

3.Joint Training of the DEEB-RNN model
联合1和2获得最终的损失函数:
J(θ)=∑∀d∈ϕ(J(y,o)+λE w (α ∗ ,α)+µE s (β ∗ ,β)),

效果

见上图2

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值