A Survey of Hallucination in “Large” Foundation Models

本文是LLM系列文章，针对《A Survey of Hallucination in “Large” Foundation Models》的翻译。

摘要

基础模型中的幻觉是指产生偏离事实现实或包含捏造信息的内容。这篇调查论文对最近旨在识别、阐明和解决幻觉问题的努力进行了广泛的概述，特别关注“大型”基础模型（LFM）。本文对LFM特有的各种类型的幻觉现象进行了分类，并建立了评估幻觉程度的评估标准。它还研究了减轻LFM幻觉的现有策略，并讨论了该领域未来研究的潜在方向。从本质上讲，本文对LFM中与幻觉相关的挑战和解决方案进行了全面的研究。

1 引言

2 大语言模型中的幻觉

3 大图像模型中的幻觉

4 大视频模型中的幻觉

5 大音频模型中的幻觉

6 幻觉不总是有害的：不同的视角

7 结论和未来方向

我们简要地对LFM中幻觉领域的现有研究进行了分类。我们对这些LFM进行了深入分析，包括关键方面，包括1.检测，2.缓解措施，3.任务，4.数据集和5.评估指标。
下面给出了解决LFM中幻觉挑战的一些可能的未来方向。

7.1幻觉的自动评估

在自然语言处理和机器学习的背景下，幻觉是指人工智能模型产生不正确或捏造的信息。这可能是一个重大问题，尤其是在文本生成等应用程序中，其目标是提供准确可靠的信息。以下是幻觉自动评估的一些潜在未来方向：
评估指标的开发