GDLLM: A Global Distance-aware Modeling Approach Based on Large Language Models for Event Tempora...

GDLLM相关内容总结与翻译

一、文章主要内容总结

本文聚焦自然语言处理中的事件时间关系抽取（ETRE）任务，旨在解决现有方法在处理数据不平衡场景下少数类关系识别效果差、长距离依赖捕捉不足等问题，提出了基于大型语言模型（LLMs）的全局距离感知建模方法GDLLM。

1. 研究背景与现有问题

• ETRE任务定义：识别文本中两个事件间的时间关系（如同时发生、先后发生等），例如句子“A powerful ice storm [EV1] continues [/EV1] to maintain its [EV2] grip [/EV2]”中，事件“continues”与“grip”的关系为“IS_INCLUDED”。
• 现有方法局限：
  • 小型语言模型（SLMs）预训练知识有限，在数据不平衡数据集（如TB-Dense中“SIMULTANEOUS”类占比仅1.5%，“VAGUE”类占比47.7%）中难以有效处理少数类关系。
  • 基于LLMs的方法依赖人工设计的提示或指令，易引入额外噪声，干扰模型对事件间长距离依赖关系的判断，且忽略了短距离邻近带关系的识别，难以捕捉全局事件关系特征。

2. GDLLM方法设计

GDLLM的核心是通过整合LLMs与图注意力网络（GAT），实现对全局事件时间关系特征的有效捕捉，具体包含三大模块：