PaDeLLM-NER: Parallel Decoding in Large Language Models for Named Entity Recognition

最新推荐文章于 2025-11-24 11:43:51 发布

UnknownBody

最新推荐文章于 2025-11-24 11:43:51 发布

阅读量177

点赞数

CC 4.0 BY-SA版权

文章标签：语言模型人工智能自然语言处理

本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/136863470

LLM 日更专栏收录该内容

828 篇文章

已下架不支持订阅

本文提出了一种名为PaDeLLM-NER的方法，用于减少大型语言模型（LLM）在命名实体识别（NER）任务中的延迟。通过并行解码，PaDeLLM-NER能够在不牺牲预测质量的前提下，显著提高推理速度，对于英语和汉语的实验显示，其速度提升可达1.76到10.22倍。

本文是LLM系列文章，针对《PaDeLLM-NER: Parallel Decoding in Large Language Models for Named Entity Recognition》的翻译。

摘要

在这项研究中，我们旨在减少使用大型语言模型（LLM）进行命名实体识别（NER）的生成延迟。LLM中高延迟的主要原因是顺序解码过程，该过程自回归地生成NER的所有标签和提及，显著增加了序列长度。为此，我们在用于NER的LLM中引入了并行解码（PaDeLLM-NER），这是一种无缝集成到现有生成模型框架中的方法，无需额外的模块或架构修改。PaDeLLM-NER允许同时解码所有提及，从而减少生成延迟。实验表明，对于英语和汉语，PaDeLLM-NER显著提高了推理速度，比自回归方法快1.76到10.22倍。同时，它保持了预测的质量，在各种数据集中的性能与最先进的技术不相上下。