Don’t Believe Everything You Read

本文是LLM系列文章，针对《Don’t Believe Everything You Read: Enhancing Summarization Interpretability through Automatic Identification of Hallucinations in Large Language Models》的翻译。

摘要

大型语言模型（LLM）擅长文本操作，比如机器翻译和文本摘要。然而，这些模型也可能容易产生幻觉，这可能不利于模型提供的任何答案的忠实性。最近在LLM中对抗幻觉的工作涉及识别产生幻觉的句子，并对模型产生幻觉的不同方式进行分类。本文深入研究了与幻觉有关的LLM行为，定义了一种标记级方法来识别不同类型的幻觉，并进一步利用这种标记级标记来提高LLM在对话摘要任务中的可解释性和忠实性。通过这一点，本文提出了一个新的、增强的数据集和一种新的训练范式。

1 引言

2 数据

3 幻觉标记的代理模型

4 大型语言模型实验

5 联合摘要和标记

6 结论

该论文提出的这一实验和分析路线标志着朝着幻觉检测和更忠实的内容生成迈出了重要一步。主要贡献有：

• 1 数据集-总之，通过引入细致入微的幻觉分类方法，解决了现有数据集中的一个关键缺口。与传统的二进制分类不同，在所提供的数据集中使用了标记级