A Survey of Hallucination in “Large” Foundation Models

大型基础模型中的幻觉现象：识别与应对
最新推荐文章于 2025-11-24 18:29:32 发布
最新推荐文章于 2025-11-24 18:29:32 发布
阅读量277 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： Survey Paper 文章标签： 人工智能 语言模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/133030651
Survey Paper 同时被 2 个专栏收录
275 篇文章 ¥99.90 ¥299.90
订阅专栏 超级会员免费看
LLM 日更
828 篇文章

已下架不支持订阅

本文详述了大型基础模型（LFM）如大语言模型、图像、视频和音频模型中的幻觉问题，探讨了幻觉的自动评估、利用知识来源改进检测和缓解策略。幻觉可能导致模型生成不准确或捏造的信息，研究提出了评估指标开发、对抗性测试、知识图谱集成和偏见检测等未来方向。

本文是LLM系列文章，针对《A Survey of Hallucination in “Large” Foundation Models》的翻译。

大型基础模型幻觉现象综述

摘要

基础模型中的幻觉是指产生偏离事实现实或包含捏造信息的内容。这篇调查论文对最近旨在识别、阐明和解决幻觉问题的努力进行了广泛的概述，特别关注“大型”基础模型（LFM）。本文对LFM特有的各种类型的幻觉现象进行了分类，并建立了评估幻觉程度的评估标准。它还研究了减轻LFM幻觉的现有策略，并讨论了该领域未来研究的潜在方向。从本质上讲，本文对LFM中与幻觉相关的挑战和解决方案进行了全面的研究。

1 引言

2 大语言模型中的幻觉

3 大图像模型中的幻觉

4 大视频模型中的幻觉

5 大音频模型中的幻觉

6 幻觉不总是有害的：不同的视角

7 结论和未来方向

我们简要地对LFM中幻觉领域的现有研究进行了分类。我们对这些LFM进行了深入分析，包括关键方面，包括1.检测，2.缓解措施，3.任务，4.数据集和5.评估指标。
下面给出了解决LFM中幻觉挑战的一些可能的未来方向。

7.1幻觉的自动评估

在自然语言处理和机器学习的背景下，幻觉是指人工智能模型产生不正确或捏造的信息。这可能是一个重大问题，尤其是在文本生成等应用程序中，其目标是提供准确可靠的信息。以下是幻觉自动评估的一些潜在未来方向：
评估指标的开发

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【大模型】大语言模型简介
AI天才研究院
04-03 2万+
因此，模型规模增长是必然趋势，当推进大模型规模不断增长的时候，涌现能力的出现会让任务的效果更加出色。有趣的是，当参数规模超过一定水平时，这些扩大的语言模型不仅实现了显着的性能提升，而且还表现出一些小规模语言模型所不具备的特殊能力。如 Google 发布的多模态具身视觉语言模型 PaLM-E，由540B 的 PaLM 文本模型和 22B 的 VIT 图像模型构成，两者集成处理多模态信息，所以它的总模型规模是 566B。随着模型规模的不断增长，任务效果也持续增长，说明这类任务对大模型中知识蕴涵的数量要求较高。
AI 人工智能里 ChatGPT 的未来发展方向
AI天才研究院
04-09 729
本文旨在系统性地分析ChatGPT及其衍生技术的未来发展方向，涵盖技术演进路线、应用场景扩展、商业化路径以及面临的伦理挑战。我们将从底层技术原理到上层应用进行全面探讨，为研究人员、开发者和企业决策者提供有价值的参考。本文首先介绍背景知识，然后深入技术细节，包括核心算法和数学模型。接着探讨实际应用案例和工具资源，最后分析未来趋势和挑战。每个部分都包含详细的技术分析和实践指导。Transformer架构：基于自注意力机制的神经网络架构，是ChatGPT的核心技术基础：通过人类反馈进行强化学习的技术。
【论文笔记】A Survey of Hallucination in “Large” Foundation Models
qq_35166730的博客
10-07 366
基础模型（Foundation Models）指的是通过自监督学习在大量未标记数据上训练的大规模AI模型，能够在各种各样的任务中表现出色。在基础模型的背景下,幻觉（Hallucination）是指模型生成的内容不是基于事实或准确信息的情况。当模型生成的文本包括虚构的、误导性的、或完全捏造的细节、事实或主张,而不是提供可靠和真实的信息时,就会发生幻觉。之所以会出现这个问题,是因为模型能够根据它从训练数据中学习到的模式生成听起来可信的文本,即使生成的内容与现实不符。
Siren’s Song in the AI Ocean: A Survey on Hallucination in Large Language Models翻译
nopSled
10-21 695
大型语言模型（LLM）以其巨大的参数量为特征，已成为自然语言处理（NLP）和人工智能发展的有前途的基石。通过适当的对齐技术，例如监督微调（SFT）和来自人类反馈的强化学习（RLHF），最近的LLM在解决各种下游任务方面表现出了强大的能力。尽管如此，如图 1 所示，LLM尽管取得了显着的成功，但有时会产生看似合理的输出，但实际上偏离了用户输入、与先前生成的上下文相反或不符合事实知识的内容——这种现象通常被称为幻觉，这极大地破坏了LLM在现实场景中的可靠性。
Mitigating Object Hallucinations in Large Vision-Language Models through Visual Contrastive Decoding
Mars_prime的博客
12-04 2989
大视觉语言模型（LVLM）已经取得了长足的进步，将视觉识别和语言理解交织在一起，生成不仅连贯而且与上下文相协调的内容。尽管取得了成功，LVLM 仍然面临物体幻觉的问题，即模型生成看似合理但不正确的输出，其中包括图像中不存在的物体。为了缓解这个问题，我们引入了视觉对比解码（VCD），这是一种简单且无需训练的方法，可以对比源自原始视觉输入和扭曲视觉输入的输出分布。所提出的 VCD 有效减少了对统计偏差和单峰先验的过度依赖，这是物体幻觉的两个重要原因。
Large Language Models Paper 分享
weixin_43564920的博客
01-03 1279
Large Language Models Paper 分享
笔记-《A Survey of Large Language Models》- 尾声
Working harder, getting stronger!
03-27 2479
Sutton, S.Schuh, K.Lomeli, L.Mann, E.Perez, N.5547–5569.[Online].[152] J.Austin, A.Odena, M.I.Nye, M.353–355.[177] P.V.ACM, 2022.559–578.Drain, S.Fort, D.4582–4597.Yih, Eds.8410–8423.[240] Q.Zhang, M.Chen, A.He, Y.Cheng, W.
LLMs之Agent：Personal_LLM_Agents_Survey的简介、使用方法之详细攻略
热门推荐
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
01-17 4万+
​ LLMs之Agent：Personal_LLM_Agents_Survey的简介、使用方法之详细攻略 目录 Personal_LLM_Agents_Survey的简介 Personal_LLM_Agents_Survey的使用方法 Personal_LLM_Agents_Survey的简介 个人LLM代理(智能体)被定义为一种特殊类型的基于LLM的代理，它与个人数据、个人设备和个人服务深度集成。它们最好部署到资源受限的移动/边缘设备和
LLMs：《A Survey on Evaluation of Large Language Models大型语言模型评估综述》理解智能本质(具备推理能力)、AI评估的重要性(识别当前算法的局限性+设
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
07-30 5395
​ LLMs：《A Survey on Evaluation of Large Language Models大型语言模型评估综述》翻译与解读 LLMs：大型语言模型评估研究综述—理解智能本质(具备推理能力)、AI评估的重要性(识别当前算法的局限性+设计更强大模型的关键工具)、评估LLMs的四大意义、三维度(What+Where+How)综述LLMs评估、LLMs大语言模型的三大关键(Transformer+RLHF+提示工程)、评估LLMs任务六大类(NLURG+REBT+SS+NS+MA+Agent
LLM的理论古往今来（持续更新ing...）
诸神缄默不语的博客
06-07 1960
本文介绍LLM的SOTA
一文读懂「RAG，Retrieval-Augmented Generation」检索增强生成
女王の专属领地
01-20 1万+
检索增强生成（RetrievalAugmentedGeneration），简称RAG，已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模型（ChatGPT、文心一言、通义千问…）的训练集基本都是构建于网络公开的数据，对于一些实时性的、非公开的或离线的数据是无法获取到的，这部分知识也就无从具备。幻觉问题。
基于学习的人工智能（1）为什么学习？
致力于大数据+AI 的应用创新。
11-24 214
学习是人类最重要的认知活动之一，贯穿我们的一生。出生后，我们无时无刻不在学习：从父母那里学说话，自己尝试走路，从小伙伴那里学会折纸飞机，从老师那里学到语文、数学等各种知识。研究人员始终将光源和风扇放在同一侧，经由学习，玉米幼苗逐渐学会了“有风的地方就会有光”的规律。之后，研究人员移去光源，并改变风扇方向，玉米幼苗依然按照所学知识，向风扇方向生长。1959 年，美国计算机学家亚瑟·塞缪尔设计了一款可以自我学习的跳棋程序，并将这一新方法称为“机器学习”，从而开启了机器自我学习的道路。
中国计算机学会（CCF）推荐学术会议-A（人工智能）：ACL 2026
iaast的博客
11-24 337
大会官网：https://2026.aclweb.org/录用率：20.3%（1699/8360，2025年）时间地点：2026年7月2日-加州·美国。截稿时间：2026年1月5日。CCF推荐：A（人工智能）
2025企业微信AI落地新趋势：微盛AI·企微管家破解内外增长难题
最新发布
weisheng00的博客
11-24 567
2025年企业微信AI落地的三大关键趋势：微盛AI·企微管家通过智能客服、精准营销和内部协作三大场景，帮助企业实现200%的客服效率提升、90%的报修响应提速和50%的员工效能增长。作为企业微信生态最大ISV服务商，微盛依托"AI+SCRM"双引擎，已服务160家500强企业，提供合规AI聊天Agent、生态闭环整合及私有化部署方案，有效解决数据孤岛问题，90%客户在3个月内实现AI能力全员覆盖。
RAG 的诞生：为了让 AI 不再“乱编”
weixin_44876263的博客
11-24 219
RAG全称，中文为“检索增强生成”。其核心思想是：在生成答案时，不仅依赖大模型内部的训练知识，还能够实时访问外部知识库或文档，从而生成更加准确和可靠的内容。就像一个学生回答问题，不仅依靠自己记忆，还会去图书馆查资料，然后结合记忆和查到的资料回答问题。你问模型：“请告诉我最新的新能源补贴政策。纯模型可能只靠训练记忆，回答的是过时或模糊的信息。RAG 模型会先去查最新政策文件，再结合训练知识生成答案，因此更准确。检索资料：先找到相关文档或信息。结合生成：把找到的资料和问题一起输入模型，让模型生成答案。
基于华为开发者空间实现花卉识别
优快云高校俱乐部官方博客
11-21 1798
基于华为开发者空间实现花卉识别
人工智能在医疗行业的革命性应用：从诊断到个性化治疗
2501_94114442的博客
11-21 486
人工智能（AI）技术近年来已经渗透到各个行业，其中，医疗行业无疑是受益最大之一。从疾病的早期诊断到个性化治疗方案的制定，AI正在加速医学领域的变革。通过机器学习、深度学习、自然语言处理等技术，AI不仅能够处理和分析大量的医疗数据，还能够帮助医生做出更加精准的决策，提升患者的治疗效果，并优化整个医疗体系的运作效率。本文将探讨人工智能在医疗行业的应用，分析其在不同医疗领域的具体作用，并展望AI如何进一步推动医疗健康行业的发展。
【NullSwap】NullSwap: Proactive Identity Cloaking Against Deepfake
人生不是轨道，是旷野。希望每天都有好心情。
11-23 236
由于生成模型的进步，被动检测高质量Deepfake图像的性能瓶颈，主动扰动提供了一种有前途的方法，通过将信号插入良性图像来禁用Deepfake操作。【生成模型的发展，使得生成高质量伪图越来越难被检测】然而，现有的主动扰动方法在以下几个方面仍然不能令人满意：【当前主动扰动存在的问题】1）由于直接元素添加而导致的视觉退化;2）对交换操纵的有效性有限;3）不可避免地依赖于白盒和灰盒设置，以在训练期间涉及生成模型。我们分析了深度伪造swap技术的本质，并论证了保护源身份而非目标图像的必要性。
【字节跳动 AI 原生 IDE TRAE 】
youngerwang的博客
11-22 698
字节跳动推出的AI原生IDE TRAE是国内首款协作级AI开发工具，采用"交互层-智能层-协议层-生态层"四层架构，支持SOLO智能自主开发模式和多模态交互。核心功能包括：1）SOLO模式支持需求分析、工具调度和全流程自动化开发；2）双模式交互系统兼顾精细控制和快速原型开发；3）多模态交互支持语音、图像和代码片段输入；4）开放的智能体生态系统。TRAE深度融合大模型能力，在前后端开发中展现出高效代码生成和自动化能力，并通过MCP协议实现安全工具调用。产品迭代迅速，216天发布63个版本，
大模型survey幻觉
03-12
### 大模型幻觉现象概述 大模型在处理任务过程中可能出现所谓的“幻觉”，即模型的回答偏离实际问题或者产生自相矛盾的内容[^3]。这种现象不仅影响用户体验，也阻碍了大型语言模型（LLMs）作为可靠信息源的应用。 ### 幻觉的原因分析 #### 模型结构与训练目标的影响 由于最大似然估计的目标函数特性，使得模型倾向于生成看似合理的响应而非绝对正确的答案。这意味着即使输入的数据是真实的，如果输出不符合预期，则可能是因为模型更加注重表达上的连贯性和合理性而不是准确性[^4]。 #### 数据质量与分布差异 训练数据的质量以及分布对于减少幻觉至关重要。当存在较大的知识鸿沟时——比如新近事件或是非常专业的主题——如果没有足够的高质量样本支持，那么即使是先进的架构也可能难以给出精确的结果。此外，不同版本之间的性能也会有所区别；例如基于GPT-4构建的系统相比其他开源替代品通常表现出更低水平的幻觉率。 #### 推理机制缺陷 有时，为了使之前产生的错误显得合乎逻辑，模型可能会继续编造额外的信息来支撑最初的误判。这种情况下的虚假陈述能够被单独识别为不准确之处[Zhang2023a][^5]。 ### 幻觉检测方法的发展 针对上述挑战，《A Survey on Hallucination in Large Language Models》一文中介绍了专门用于识别此类异常行为的技术手段之一：“事实性检验”。这种方法旨在验证由AI生成文本的真实性，从而有效降低潜在风险并提升整体服务质量[^1]。 ```python def check_factuality(text, knowledge_base): """ Checks the factuality of generated text against a given knowledge base. Args: text (str): The generated text to be checked. knowledge_base (dict): A dictionary containing factual information. Returns: bool: True if all statements are correct according to the knowledge base; False otherwise. """ facts = extract_facts_from_text(text) for fact in facts: if not verify_with_knowledge_base(fact, knowledge_base): return False return True ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值