《Dependency Graph Enhanced Dual-transformer Structure for Aspect-based Sentiment Classification》阅读笔记

《Dependency Graph Enhanced Dual-transformer Structure forAspect-based Sentiment Classification》阅读笔记

1.摘要

近年来，利用图卷积神经网络实现语义依赖树来描述方面和相关的情感词之间的内在联系，但是由于依赖树的噪音和不稳定性，这种改进是有限的。

提出了一个依赖图增强的双向transformer网络（DGEDRT），它通过迭代交互的方式，将从transformer学习的平面表示和从相应的依赖图中学习的图形化表示结合起来。

思想：允许依赖图来知道transformer编码器的表示学习。

2.介绍

直接应用依赖树的两个缺点：

1. 由于解析性能的不完整性和输入句子的随意性，依赖树不可避免的引入了噪音。

2. GCN在依赖书中对长距离或者断开连接的词进行建模时，存在固有的缺陷。

3.相关工作

4.模型

DGEDT由两个关键的子模块组成：transformer和 GCN。这里GCN可以被视为一个专门的transformer。

首先对输入的文本进