2DEPT与MVARN:实体关系提取与图问答任务的创新方案
在自然语言处理和多模态识别领域,实体关系提取和图问答任务一直是研究的热点。本文将介绍两种创新模型:2D实体对标记方案(2DEPT)和多视图注意力关系网络(MVARN),它们分别在实体关系提取和图问答任务中展现出卓越的性能。
2DEPT:解决实体关系提取难题
实现细节
- 训练优化器与学习率 :采用Adam优化器训练模型,学习率设定为1e - 5。
- 特征维度设置 :标记表示的维度$d_h$设为768,主题和对象标记表示的维度$d_e$设为3 * 768。
- 批量大小 :不同数据集的批量大小不同,NYT 和NYT为16,WebNLG 和WebNLG为10。
- 训练设备 :使用一块RTX 3090 Ti GPU进行训练。
- 超参数确定与权重初始化 :所有超参数在开发集上确定,训练的权重参数通过正态分布随机初始化。每个数据集运行模型5次,取平均结果作为最终报告结果。
基线模型对比
为证明2DEPT模型的有效性,将其与多个最先进的基线模型进行对比。
| 模型 | NYT (Prec.) | NYT (Rec.) | NYT (F1) | WebNLG (Prec.) | WebNLG (Rec.) |
超级会员免费看
订阅专栏 解锁全文

被折叠的 条评论
为什么被折叠?



