Cognitive Mirage: A Review of Hallucinations in Large Language Models

最新推荐文章于 2025-06-09 23:54:15 发布
最新推荐文章于 2025-06-09 23:54:15 发布
阅读量738 收藏 1
点赞数
分类专栏： Survey Paper 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/133746001
版权
Survey Paper 同时被 2 个专栏收录
261 篇文章 ¥99.90 ¥299.90
订阅专栏 超级会员免费看
LLM 日更
828 篇文章

已下架不支持订阅

本文深入探讨大型语言模型（LLM）在文本生成中出现的幻觉问题，包括其分类、检测和校正方法。研究提出幻觉的详细分类，并分析其产生机制，旨在推动未来更负责任和有效的LLM使用，期望通过与外部知识库的协同减少幻觉，提高LLM的性能和可靠性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本文是LLM系列文章，针对《Cognitive Mirage: A Review of Hallucinations in Large Language Models》的翻译。

认知海市蜃楼:大型语言模型中的幻觉研究综述

摘要

随着大型语言模型在人工智能领域的不断发展，文本生成系统容易受到一种令人担忧的现象的影响，这种现象被称为幻觉。在这项研究中，我们总结了最近对LLM幻觉的令人信服的见解。我们从各种文本生成任务中提出了一种新的幻觉分类，从而提供了理论见解，检测方法和改进方法。在此基础上，提出了今后的研究方向。我们的贡献有三个方面:(1)我们为文本生成任务中出现的幻觉提供了详细而完整的分类;(2)对LLM的幻觉现象进行理论分析，提供现有的检测和改进方法;(3)提出了未来可以发展的几个研究方向。由于幻觉引起了社会的极大关注，我们将继续更新相关的研究进展。

1 引言

2 机制分析

3 幻觉的分类

4 幻觉检测

5 幻觉校正

6 未来方向

7 结论与愿景

本文综述了LLM幻觉的新分类、理论见解、检测方法、校正方法和未来的研究方向。请注意，确保我们能够以负责任和有益的方式持续利用LLM至

了解本专栏 订阅专栏 解锁全文 超级会员免费看
一文读懂LLM的「幻觉」问题
女王の专属领地
01-05 3505
1、幻觉定义大模型生成看似合理的内容，其实这些内容是不正确的或者是与输入Prompt无关，甚至是有冲突的现象，即生成与用户输入不符、与先前生成的内容矛盾或与已知世界知识不符的内容。2、幻觉类型输入冲突幻觉Input-conflicting：生成的内容与用户提供的输入不符；输入冲突幻觉指的是LLM生成的内容与用户提供的源输入（①任务指示：例如用户对摘要的提示和②任务输入：例如需要摘要的文档）不一致。当LLM生成的内容偏离用户的输入时，就会出现这种幻觉。
HealMe: Harnessing Cognitive Reframing in Large Language Models for Psychotherapy
c_cpp_csharp的专栏
06-25 250
大型语言模型（LLM）可以通过熟练地处理认知重构的关键任务，克服羞耻感、不信任感、治疗师技能的可变性和资源稀缺等挑战，在心理治疗中发挥至关重要的作用。以前在认知重构中的LLM主要将负面情绪转化为积极情绪，但这些方法的效果有限，通常不能促进客户自我发现其他视角。在这篇论文中，我们揭示了通过心理增强中的自适应语言帮助和赋权（HealMe）模型。这种新颖的认知重构治疗方法有效地解决了根深蒂固的负面思想，并培养了理性、平衡的观点。与传统的LLM方法不同，HealMe采用了基于心理治疗框架的移情对话。
LLM之幻觉（一）：大语言模型幻觉解决方案综述
wshzd的博客
11-06 1818
论文题目：《Cognitive Mirage: A Review of Hallucinations in Large Language Models》​论文链接：https://arxiv.org/abs/2309.06794v1论文代码：https://github.com/hongbinye/cognitive-mirage-hallucinations-in-llms 由ChatGPT带来的大模型时代，国内外各大厂家都在陆续推出自己的大模型，然而目前大模型都存在一个普遍的现象就是：幻觉。
大语言模型幻觉解决方案综述
机器学习社区
11-07 434
由ChatGPT带来的大模型时代，国内外各大厂家都在陆续推出自己的大模型，然而。
论文导读 | 大模型幻觉的检测与消除
weixin_48167662的博客
10-30 1536
本次论文分享围绕大模型幻觉的检测与消除中的分类器、不确定性度量、模型的评价能力共三个方面进行了调研与整理。对于未来的研究方向，笔者认为，在训练中可以通过知识图谱等可信知识源批量生成高质量数据，以及设计相关算法排除低质、有害的数据，防止幻觉通过训练引入大模型。在推理过程中则应当研究更为鲁棒的推理机制，在检索生成、思维链、辅助代码等基础上提出更为复杂的融合策略，提升大模型的可信度。
【AIGC调研系列】大型语言模型如何减少幻觉生成
zachary的博客
04-26 2034
在解读大型语言模型（LLMs）中的长格式事实性问题时，我们首先需要认识到这些模型在生成内容时可能会产生与既定事实不一致的情况，这种情况通常被称为“幻觉”[2][3]。这种现象不仅可能导致信息的误传，还可能对社会造成误导和伤害[3]。因此，提高LLMs的事实性成为了一个重要的研究方向。为了提高LLMs的事实性，研究人员提出了多种方法。一种方法是通过对模型进行微调，使其更加注重事实性，而无需人工标注[2]。另一种方法是通过对比不同层的输出来减少幻觉的生成，这种方法不需要依赖外部知识或额外的微调[13]。
arXiv论文：轻松了解9月第3周NLP领域最新进展
weixin_48594156的博客
09-20 396
分享arXiv上自然语言处理（NLP）的最新前沿论文！从语言模型到机器翻译，从情感分析到问答系统。关注我们，了解语言智能的最新突破，掌握 NLP 技术的未来趋势。本文给大家分享最近一周的ArXiv上NLP最新进展。
三千字长文！大语言模型LLM现有的几个技术难点与应用方向（科普向）-第一弹-幻觉现象
06-13 1210
下图是一位科研人员提出的训练RL模型的方法，hedged指的是拐弯抹角的，而unhedged指的是坚定的，当LLM给出拐弯抹角的正确答案时，RL模型会给出少量奖励，而不是坚定正确答案时的大量奖励；指的是LLM回答的结果与user query冲突，比如说下图中我问的是姑姑和姑父结婚，而LLM回答的却是“姑姑和侄子”或者“姑父和侄女”结婚是近亲结婚；以上便是我们使用chat3.5来产生的幻觉案例，当然，由于这个模型是比较早发布的，现在很多新模型的“幻觉”问题已经被改善，本文也是主要为了介绍概念；
Cognitive controls: A test of their modifiability and structural arrangement
06-29
Cognitive controls: A test of their modifiability and structural arrangement Psychology in the Schools Volume 20. July, 1983 COGNITIVE CONTROLS: A TEST OF THEIR MODIFIABILITY AND STRUCTURAL ...
CBT-LLM: A Chinese Large Language Model for Cognitive Behavioral Therapy-based Mental Health QA
c_cpp_csharp的专栏
06-12 537
人工智能的最新进展凸显了语言模型在心理健康支持方面的潜力。虽然根据心理健康服务平台的数据训练的模型已经取得了初步成功，但在数据稀缺、质量和确保心理技术的坚实基础等领域仍然存在挑战。为了应对这些挑战，本研究引入了一种新的方法，通过大型语言模型来提高心理支持的准确性和有效性。具体而言，我们设计了一个源自认知行为疗法（CBT）原理的特定提示，并生成了CBT QA数据集，专门用于基于CBT结构化干预策略的中国心理健康问答。与以前的方法不同，我们的数据集强调专业和结构化的响应。
Harnessing Multi-Role Capabilities of Large Language Models for Open-Domain Question Answering
c_cpp_csharp的专栏
05-21 449
开放域问答（ODQA）已成为信息系统研究的一个重要热点。现有的证据收集方法主要有两种范式：（1）先检索后阅读范式从外部语料库中检索相关文档；以及（2）先生成后读取范式使用大型语言模型（LLM）来生成相关文档。然而，两者都不能完全满足对证据的多方面要求。为此，我们提出了LLMQA，这是一个通用的框架，将ODQA过程公式化为三个基本步骤：查询扩展、文档选择和答案生成，结合了基于检索和基于生成的证据的优势。
深度学习之模型压缩三驾马车：基于ResNet18的模型剪枝实战（2）
ak47maker的博客
06-05 560
本文针对ResNet18模型剪枝进行了优化改进，主要包含三个方面：1) 将剪枝目标层从底层conv1调整为中间层layer2.0.conv1，减少对基础特征的破坏；2) 采用基于激活值的前向传播方法评估通道重要性，优先剪除低激活通道；3) 改进微调策略，动态解冻关联层并使用更低学习率(0.0001)进行10轮微调。这些优化有效提升了剪枝后模型的稳定性和性能表现，特别是通过中间层剪枝和基于特征贡献的通道选择策略，避免了底层特征破坏带来的连锁反应。
yolo模型精度提升策略
最新发布
qq_47798402的博客
06-09 42
结合起来，才能最大程度地提升那6种相似BGA的区分能力，从而显著提高整体mAP。持续进行基于难例分析的主动学习是突破瓶颈的可持续方法。使用自适应优化器、学习率热身与余弦退火，进行充分长周期的训练（配合早停）。持续收集模型在相似BGA上的错误样本，优先标注并加入训练集进行迭代。设计模拟BGA实际成像挑战（反光、模糊、视角变化）的增强方案。尝试引入注意力机制，将分类损失替换为。训练数据（2倍以上是合理起点）。（Focal Loss）以及。显著增加6种相似BGA的。（特别是注意力机制）、
智能终端与边缘计算
wozaiwurenchu的博客
06-05 794
Cloudlet的定义和主要特征Cloudlet（微云）概念于2009年首次出现。它是一种成熟的边缘计算系统，旨在将移动计算的“端-云”两层架构转变为**“端-边-云”的三层架构** [对话历史]。Cloudlet通常部署在网络边缘，靠近接入点、基站或汇聚点，甚至可以直接运行在智能网联汽车或无人机上 [对话历史]。主要特征：可信且资源丰富的主机或机群。基于虚拟机技术，为移动终端提供服务。Cloudlet通过将与具体应用相关的数据部分从通用部分中抽离出来，形成VM Overlay与Base VM。
法律AI的“幻觉”治理：大模型如何重塑司法公正与效率
七刀的专栏
06-04 1110
在传统律师事务所中，一位律师审查一份50页的商业合同平均需要3小时；而在引入法律大模型后，这一时间被缩短至20分钟。效率提升的背后，是一场正在席卷全球法律体系的智能化革命——。
Langchain4j 文档处理（7）
m0_58617940的博客
06-05 1082
来自 langchain4j 模块的文件系统文档加载器（FileSystemDocumentLoader）来自 langchain4j 模块的类路径文档加载器（ClassPathDocumentLoader）来自 langchain4j 模块的网址文档加载器（UrlDocumentLoader）来自 langchain4j-document-loader-amazon-s3 模块的亚马逊 S3 文档加载器（AmazonS3DocumentLoader）
【oobabooga 本地AI模型搭建】
开心就好了啦
06-05 885
用于大型语言模型的 Gradio Web UI。其目标是成为文本生成的。
高效VLM：VisionZip
my的博客
06-04 638
《VisionZip：视觉语言模型中的高效视觉标记压缩方法》针对现有视觉语言模型(VLMs)存在的视觉标记冗余问题，提出了一种创新解决方案。研究发现，传统VLMs使用长序列视觉标记会导致计算成本高昂，且大量标记注意力权重趋近于零，存在显著冗余。VisionZip通过两阶段处理（保留主导标记+合并次要标记），在仅保留10%标记的情况下实现95%的原模型性能，并将LLaVA-NeXT模型的预填充时间减少8倍。该方法支持无训练应用、高效微调和从头训练三种模式。
OpenAI 即将推出 GPT-5：开启多模态、持续记忆对话新时代
Cha3043445754的博客
06-05 1454
提前学习多模态 AI 的接口设计与调用构建与 AI 协作的开发流程，如 Prompt Engineering + 工具链集成探索 AI 与硬件系统的联动，如边缘端 AI 控制与云协同GPT-5 不是一个模型，而是一种时代的信号。在这个 AI 正悄然重塑世界的时刻，我们既是使用者，也将成为协作者。
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
03-09
### Chain-of-Thought Prompting Mechanism in Large Language Models In large language models, chain-of-thought prompting serves as a method to enhance reasoning capabilities by guiding the model through structured thought processes. This approach involves breaking down complex problems into simpler components and providing step-by-step guidance that mirrors human cognitive processing. The creation of these prompts typically includes selecting examples from training datasets where each example represents part of an overall problem-solving process[^2]. By decomposing tasks into multiple steps, this technique encourages deeper understanding and more accurate predictions compared to traditional methods. For instance, when faced with multi-hop question answering or logical deduction challenges, using such chains allows models not only to generate correct answers but also articulate intermediate thoughts leading up to those conclusions. Such transparency facilitates better interpretability while improving performance on various NLP benchmarks. ```python def create_chain_of_thought_prompt(task_description, examples): """ Creates a chain-of-thought prompt based on given task description and examples. Args: task_description (str): Description of the task at hand. examples (list): List containing tuples of input-output pairs used for demonstration purposes. Returns: str: Formatted string representing the final prompt including both instructions and sample cases. """ formatted_examples = "\n".join([f"Input: {ex[0]}, Output: {ex[1]}" for ex in examples]) return f""" Task: {task_description} Examples: {formatted_examples} Now try solving similar questions following above pattern. """ # Example usage examples = [ ("What color do you get mixing red and blue?", "Purple"), ("If it rains tomorrow, will we have our picnic?", "No") ] print(create_chain_of_thought_prompt("Solve logic puzzles", examples)) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值