Cognitive Mirage: A Review of Hallucinations in Large Language Models

最新推荐文章于 2025-06-09 23:54:15 发布
最新推荐文章于 2025-06-09 23:54:15 发布
阅读量738 收藏 1
点赞数
分类专栏： Survey Paper 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/133746001
版权
Survey Paper 同时被 2 个专栏收录
261 篇文章 ¥99.90 ¥299.90
订阅专栏 超级会员免费看
LLM 日更
828 篇文章

已下架不支持订阅

本文深入探讨大型语言模型（LLM）在文本生成中出现的幻觉问题，包括其分类、检测和校正方法。研究提出幻觉的详细分类，并分析其产生机制，旨在推动未来更负责任和有效的LLM使用，期望通过与外部知识库的协同减少幻觉，提高LLM的性能和可靠性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

本文是LLM系列文章，针对《Cognitive Mirage: A Review of Hallucinations in Large Language Models》的翻译。

认知海市蜃楼:大型语言模型中的幻觉研究综述

摘要

随着大型语言模型在人工智能领域的不断发展，文本生成系统容易受到一种令人担忧的现象的影响，这种现象被称为幻觉。在这项研究中，我们总结了最近对LLM幻觉的令人信服的见解。我们从各种文本生成任务中提出了一种新的幻觉分类，从而提供了理论见解，检测方法和改进方法。在此基础上，提出了今后的研究方向。我们的贡献有三个方面:(1)我们为文本生成任务中出现的幻觉提供了详细而完整的分类;(2)对LLM的幻觉现象进行理论分析，提供现有的检测和改进方法;(3)提出了未来可以发展的几个研究方向。由于幻觉引起了社会的极大关注，我们将继续更新相关的研究进展。

1 引言

2 机制分析

3 幻觉的分类

4 幻觉检测

5 幻觉校正

6 未来方向

7 结论与愿景

本文综述了LLM幻觉的新分类、理论见解、检测方法、校正方法和未来的研究方向。请注意，确保我们能够以负责任和有益的方式持续利用LLM至

了解本专栏 订阅专栏 解锁全文 超级会员免费看
一文读懂LLM的「幻觉」问题
女王の专属领地
01-05 3506
1、幻觉定义大模型生成看似合理的内容，其实这些内容是不正确的或者是与输入Prompt无关，甚至是有冲突的现象，即生成与用户输入不符、与先前生成的内容矛盾或与已知世界知识不符的内容。2、幻觉类型输入冲突幻觉Input-conflicting：生成的内容与用户提供的输入不符；输入冲突幻觉指的是LLM生成的内容与用户提供的源输入（①任务指示：例如用户对摘要的提示和②任务输入：例如需要摘要的文档）不一致。当LLM生成的内容偏离用户的输入时，就会出现这种幻觉。
arXiv论文：轻松了解9月第3周NLP领域最新进展
weixin_48594156的博客
09-20 396
分享arXiv上自然语言处理（NLP）的最新前沿论文！从语言模型到机器翻译，从情感分析到问答系统。关注我们，了解语言智能的最新突破，掌握 NLP 技术的未来趋势。本文给大家分享最近一周的ArXiv上NLP最新进展。
LLM之幻觉（一）：大语言模型幻觉解决方案综述
wshzd的博客
11-06 1818
论文题目：《Cognitive Mirage: A Review of Hallucinations in Large Language Models》​论文链接：https://arxiv.org/abs/2309.06794v1论文代码：https://github.com/hongbinye/cognitive-mirage-hallucinations-in-llms 由ChatGPT带来的大模型时代，国内外各大厂家都在陆续推出自己的大模型，然而目前大模型都存在一个普遍的现象就是：幻觉。
大语言模型幻觉解决方案综述
机器学习社区
11-07 434
由ChatGPT带来的大模型时代，国内外各大厂家都在陆续推出自己的大模型，然而。
论文导读 | 大模型幻觉的检测与消除
weixin_48167662的博客
10-30 1540
本次论文分享围绕大模型幻觉的检测与消除中的分类器、不确定性度量、模型的评价能力共三个方面进行了调研与整理。对于未来的研究方向，笔者认为，在训练中可以通过知识图谱等可信知识源批量生成高质量数据，以及设计相关算法排除低质、有害的数据，防止幻觉通过训练引入大模型。在推理过程中则应当研究更为鲁棒的推理机制，在检索生成、思维链、辅助代码等基础上提出更为复杂的融合策略，提升大模型的可信度。
【AIGC调研系列】大型语言模型如何减少幻觉生成
zachary的博客
04-26 2034
在解读大型语言模型（LLMs）中的长格式事实性问题时，我们首先需要认识到这些模型在生成内容时可能会产生与既定事实不一致的情况，这种情况通常被称为“幻觉”[2][3]。这种现象不仅可能导致信息的误传，还可能对社会造成误导和伤害[3]。因此，提高LLMs的事实性成为了一个重要的研究方向。为了提高LLMs的事实性，研究人员提出了多种方法。一种方法是通过对模型进行微调，使其更加注重事实性，而无需人工标注[2]。另一种方法是通过对比不同层的输出来减少幻觉的生成，这种方法不需要依赖外部知识或额外的微调[13]。
三千字长文！大语言模型LLM现有的几个技术难点与应用方向（科普向）-第一弹-幻觉现象
06-13 1212
下图是一位科研人员提出的训练RL模型的方法，hedged指的是拐弯抹角的，而unhedged指的是坚定的，当LLM给出拐弯抹角的正确答案时，RL模型会给出少量奖励，而不是坚定正确答案时的大量奖励；指的是LLM回答的结果与user query冲突，比如说下图中我问的是姑姑和姑父结婚，而LLM回答的却是“姑姑和侄子”或者“姑父和侄女”结婚是近亲结婚；以上便是我们使用chat3.5来产生的幻觉案例，当然，由于这个模型是比较早发布的，现在很多新模型的“幻觉”问题已经被改善，本文也是主要为了介绍概念；
深度学习之模型压缩三驾马车：基于ResNet18的模型剪枝实战（2）
ak47maker的博客
06-05 634
本文针对ResNet18模型剪枝进行了优化改进，主要包含三个方面：1) 将剪枝目标层从底层conv1调整为中间层layer2.0.conv1，减少对基础特征的破坏；2) 采用基于激活值的前向传播方法评估通道重要性，优先剪除低激活通道；3) 改进微调策略，动态解冻关联层并使用更低学习率(0.0001)进行10轮微调。这些优化有效提升了剪枝后模型的稳定性和性能表现，特别是通过中间层剪枝和基于特征贡献的通道选择策略，避免了底层特征破坏带来的连锁反应。
yolo模型精度提升策略
最新发布
qq_47798402的博客
06-09 288
结合起来，才能最大程度地提升那6种相似BGA的区分能力，从而显著提高整体mAP。持续进行基于难例分析的主动学习是突破瓶颈的可持续方法。使用自适应优化器、学习率热身与余弦退火，进行充分长周期的训练（配合早停）。持续收集模型在相似BGA上的错误样本，优先标注并加入训练集进行迭代。设计模拟BGA实际成像挑战（反光、模糊、视角变化）的增强方案。尝试引入注意力机制，将分类损失替换为。训练数据（2倍以上是合理起点）。（Focal Loss）以及。显著增加6种相似BGA的。（特别是注意力机制）、
【python深度学习】Day 45 Tensorboard使用介绍
2203_75479908的博客
06-05 668
之前在神经网络训练中，为了帮助自己理解，借用了很多的组件，比如训练进度条、可视化的loss下降曲线、权重分布图，运行结束后还可以查看单张图的推理效果。tensorboard这个库，集成了以上所有可视化工具。
智能终端与边缘计算
wozaiwurenchu的博客
06-05 866
Cloudlet的定义和主要特征Cloudlet（微云）概念于2009年首次出现。它是一种成熟的边缘计算系统，旨在将移动计算的“端-云”两层架构转变为**“端-边-云”的三层架构** [对话历史]。Cloudlet通常部署在网络边缘，靠近接入点、基站或汇聚点，甚至可以直接运行在智能网联汽车或无人机上 [对话历史]。主要特征：可信且资源丰富的主机或机群。基于虚拟机技术，为移动终端提供服务。Cloudlet通过将与具体应用相关的数据部分从通用部分中抽离出来，形成VM Overlay与Base VM。
法律AI的“幻觉”治理：大模型如何重塑司法公正与效率
七刀的专栏
06-04 1176
在传统律师事务所中，一位律师审查一份50页的商业合同平均需要3小时；而在引入法律大模型后，这一时间被缩短至20分钟。效率提升的背后，是一场正在席卷全球法律体系的智能化革命——。
Langchain4j 文档处理（7）
m0_58617940的博客
06-05 1132
来自 langchain4j 模块的文件系统文档加载器（FileSystemDocumentLoader）来自 langchain4j 模块的类路径文档加载器（ClassPathDocumentLoader）来自 langchain4j 模块的网址文档加载器（UrlDocumentLoader）来自 langchain4j-document-loader-amazon-s3 模块的亚马逊 S3 文档加载器（AmazonS3DocumentLoader）
【oobabooga 本地AI模型搭建】
开心就好了啦
06-05 947
用于大型语言模型的 Gradio Web UI。其目标是成为文本生成的。
高效VLM：VisionZip
my的博客
06-04 656
《VisionZip：视觉语言模型中的高效视觉标记压缩方法》针对现有视觉语言模型(VLMs)存在的视觉标记冗余问题，提出了一种创新解决方案。研究发现，传统VLMs使用长序列视觉标记会导致计算成本高昂，且大量标记注意力权重趋近于零，存在显著冗余。VisionZip通过两阶段处理（保留主导标记+合并次要标记），在仅保留10%标记的情况下实现95%的原模型性能，并将LLaVA-NeXT模型的预填充时间减少8倍。该方法支持无训练应用、高效微调和从头训练三种模式。
OpenAI 即将推出 GPT-5：开启多模态、持续记忆对话新时代
Cha3043445754的博客
06-05 1510
提前学习多模态 AI 的接口设计与调用构建与 AI 协作的开发流程，如 Prompt Engineering + 工具链集成探索 AI 与硬件系统的联动，如边缘端 AI 控制与云协同GPT-5 不是一个模型，而是一种时代的信号。在这个 AI 正悄然重塑世界的时刻，我们既是使用者，也将成为协作者。
简繁体智能翻译软件
weixin_62784879的博客
06-09 286
以常见物品为例：内地称\"创口贴\"，香港称\"胶布\"，台湾称\"OK绷\"；汽车品牌\"奔驰\"在香港译作\"平治\"、台湾译作\"宾士\"，这类词汇差异需要额外认知成本。该工具内置智能词库系统，能自动识别并转换具有地区特色的用词表达，实现内地、香港、台湾三地语言习惯的精准转换。针对台湾地区使用的注音符号（如ㄅㄆㄇㄈ）及网络流行的火星文等特殊文字形式，提供对应的转换方案。这款工具还有许多功能，我就不一一介绍啦。
MCP协议重构AI Agent生态：万能插槽如何终结工具孤岛？
聚焦AI技术在企业的深度应用，致力于在实际场景中验证理论模型的可行性
06-04 1157
2025年，MCP协议成为AI领域的关键基础设施，被喻为"AI世界的USB-C接口"。
MCP：解锁 AI 与外部世界的无缝连接
无声旅者的博客
06-06 894
MCP（Model Context Protocol）是由 Anthropic 公司推出的一种开放标准协议，旨在实现大型语言模型（LLM）与外部数据源和工具的无缝集成。它类似于网络中的 HTTP 协议或邮件中的 SMTP 协议，通过标准化模型与外部资源的交互方式，提升 LLM 应用的功能性、灵活性和可扩展性。MCP 作为一种新兴的开放协议，为 AI 模型与外部工具和数据源的集成提供了一种标准化、简单高效的方式。它具有统一接口、降低集成成本、双向通信、高度扩展性等优势，在多个领域有着广泛的应用前景。
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
03-09
### Chain-of-Thought Prompting Mechanism in Large Language Models In large language models, chain-of-thought prompting serves as a method to enhance reasoning capabilities by guiding the model through structured thought processes. This approach involves breaking down complex problems into simpler components and providing step-by-step guidance that mirrors human cognitive processing. The creation of these prompts typically includes selecting examples from training datasets where each example represents part of an overall problem-solving process[^2]. By decomposing tasks into multiple steps, this technique encourages deeper understanding and more accurate predictions compared to traditional methods. For instance, when faced with multi-hop question answering or logical deduction challenges, using such chains allows models not only to generate correct answers but also articulate intermediate thoughts leading up to those conclusions. Such transparency facilitates better interpretability while improving performance on various NLP benchmarks. ```python def create_chain_of_thought_prompt(task_description, examples): """ Creates a chain-of-thought prompt based on given task description and examples. Args: task_description (str): Description of the task at hand. examples (list): List containing tuples of input-output pairs used for demonstration purposes. Returns: str: Formatted string representing the final prompt including both instructions and sample cases. """ formatted_examples = "\n".join([f"Input: {ex[0]}, Output: {ex[1]}" for ex in examples]) return f""" Task: {task_description} Examples: {formatted_examples} Now try solving similar questions following above pattern. """ # Example usage examples = [ ("What color do you get mixing red and blue?", "Purple"), ("If it rains tomorrow, will we have our picnic?", "No") ] print(create_chain_of_thought_prompt("Solve logic puzzles", examples)) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值