Survey on Factuality in Large Language Models: Knowledge, Retrieval and Domain-Specificity

最新推荐文章于 2025-11-25 15:56:53 发布

UnknownBody

最新推荐文章于 2025-11-25 15:56:53 发布

阅读量248

点赞数 1

CC 4.0 BY-SA版权

分类专栏： Survey Paper 文章标签：语言模型人工智能自然语言处理

本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/134250800

Survey Paper 同时被 2 个专栏收录

275 篇文章 ¥99.90 ¥299.90

订阅专栏

超级会员免费看

LLM 日更

828 篇文章

已下架不支持订阅

本文深入探讨大型语言模型（LLM）中的事实性问题，分析其产生的不准确信息及原因，评估LLM的可靠性，并提出增强策略。研究涵盖了事实性定义、评估方法、内在机制及增强技术，旨在提高LLM事实可靠性的指导。

本文是LLM系列文章，针对《Survey on Factuality in Large Language Models: Knowledge, Retrieval and Domain-Specificity》的翻译。
@TOC

摘要

这项调查解决了大型语言模型（LLM）中的事实性这一关键问题。随着LLM在不同领域中的应用，其输出的可靠性和准确性变得至关重要。我们将“事实性问题”定义为LLM产生与既定事实不一致内容的可能性。我们首先深入研究了这些不准确的含义，强调了LLM输出中的事实错误带来的潜在后果和挑战。随后，我们分析了LLM存储和处理事实的机制，寻找事实错误的主要原因。然后，我们的讨论过渡到评估LLM真实性的方法，强调关键指标、基准和研究。我们进一步探索了增强LLM真实性的策略，包括针对特定领域量身定制的方法。我们重点介绍了两种主要的LLM配置——独立LLM和利用外部数据的检索增强LLM——我们详细介绍了它们的独特挑战和潜在增强。我们的调查为研究人员提供了一个结构化的指南，旨在加强LLM的事实可靠性。我们一直在维护和更新相关的开源材料https://github.com/wangcunxiang/LLM-Factuality-Survey.