【论文阅读】Attention Guided Graph Convolutional Networks for Relation Extraction

该论文提出了一种新的方法——Attention Guided Graph Convolutional Networks(AGGCN)来改善关系抽取。通过引入软修剪策略,避免了传统方法中硬修剪造成的信息丢失。AGGCN使用邻接矩阵表示依存树,并结合多头注意力机制,以捕获不同子空间的信息。此外,还采用了密连接层来捕捉局部和远程结构,最后通过线性组合层整合信息,用于关系分类任务。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

把句法依存树当成输入
在n元关系抽取,大规模句子级别关系抽取都能充分利用依存树的信息
https://github.com/Cartus/AGGCN_TACRED

创新:

提出soft pruning策略,把一颗完整的依存树送到全连通边加权图里。
这里的权重就通过attention学习得到

在这里插入图片描述

GCN

给定一个图,有n个节点,我们可以用 n ∗ n n*n nn的邻接矩阵表达这个图结构。
可以把边的方向性扩展到模型中,用来编码依存树
每个结点都添加一个自环
如果依存树里节点i到节点j有边,那在邻接矩阵里 A i j = 1 A_{ij}=1 Aij=1 A j i = 1 A_{ji}=1 Aji=1。否则就都是0
l l l层节点 i i i卷积的运算,把输入特征的表示 h l − 1 h^{l-1}

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值