Analyzing and Mitigating False Premise Hallucinations in Large Language Models

最新推荐文章于 2025-11-24 18:29:32 发布
最新推荐文章于 2025-11-24 18:29:32 发布
阅读量104 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： LLM hallucination 文章标签： 语言模型 人工智能 自然语言处理
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/c_cpp_csharp/article/details/136840934
LLM 日更 同时被 2 个专栏收录
828 篇文章

已下架不支持订阅

LLM hallucination
34 篇文章
订阅专栏
本文深入分析大型语言模型（LLM）的假前提幻觉问题，发现特定注意力头导致此问题。提出FAITH方法，通过约束这些注意力头，显著提升模型性能约20%。

本文是LLM系列文章，针对《Whispers that Shake Foundations: Analyzing and Mitigating False Premise Hallucinations in Large Language Models》的翻译。

撼动根基的细语：分析和缓解大型语言模型中的虚假前提幻觉

摘要

大型语言模型（LLM）已经显示出令人印象深刻的功能，但仍然存在幻觉问题。这一问题的一个重要类型是假前提幻觉，我们将其定义为LLM在面对假前提问题时产生幻觉文本的现象。在本文中，我们对假前提幻觉进行了全面的分析，并阐明了其内部工作机制：一小部分注意力头（我们称之为假前提头）干扰了知识提取过程，导致了假前提幻觉的发生。基于我们的分析，我们提出了一种新的、有效的减轻假前提幻觉的方法——FAITH（用于制造幻觉的假前提注意头约束）。它约束了模型推理过程中的假前提注意头。令人印象深刻的是，大量的实验表明，仅约束模型中约1%的注意力头会显著提高模型性能近20%。

1 引言

2 背景

3 数据构建

4 幻觉分析

5 幻觉缓解

6 相关工作

7 结论

在本文中，我们对一种重要的幻觉类型——假前提幻觉进行了全面的分析。我们的分析从模型的表面开始，并逐渐深入研究，最终揭示了虚假前提注意力的存在。基于我们的分析，我们提出了一种新的假前提

了解本专栏 已下架不支持订阅
UnknownBody
关注
专栏目录

已下架不支持订阅

ACL 2022 主会长文论文分类整理
Kaiyuan_sjtu的博客
05-13 6892
© 作者｜蒋锦昊 机构｜中国人民大学高瓴人工智能学院研究方向 | 自然语言处理导读ACL 2022是CCF A类会议，人工智能领域自然语言处理（Natural Language Processing，NLP）方向最权威的国际会议之一。第60届计算语言学协会计划于今年5月22日-5月27日在爱尔兰都柏林召开。官方发布的接收论文列表：Accepted Papers...
LLMs：《Large Language Models A Survey综述调查》翻译与解读—概述了早期预训练语言模型发展史→介绍了3个流行的LLM家族及其它代表性模型→构建、增强和使用LLM的方法和
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
02-16 2846
​ LLMs：《Large Language Models A Survey综述调查》翻译与解读—概述了早期预训练语言模型发展史→介绍了3个流行的LLM家族及其它代表性模型→构建、增强和使用LLM的方法和技术→数据集和基准→未来方向和挑战 目录 《Large Language Models A Survey大型语言模型的综述调查》翻译与解读 Abstract摘要 I. INTRODUCTION引言 II. LARGE LANGUAGE MODE
测试内容-A Comprehensive Survey on Retrieval-Augmented Large Language Models: Architectures, Application
yanqianglifei的专栏
05-15 877
Retrieval-Augmented Generation (RAG) has emerged as a transformative paradigm in natural language processing (NLP), addressing critical limitations of Large Language Models (LLMs) such as hallucination, outdated knowledge, and non-transparent reasoning pro
总结 | ACL2022主会论文分类整理
04-25 1万+
大家好，我是对白。ACL 2022是CCF A类会议，人工智能领域自然语言处理（Natural Language Processing，NLP）方向最权威的国际会议之一。第60届计算语言学协会计划于今年5月22日-5月27日在爱尔兰都柏林召开。本文对ACL 2022接受列表中的的602篇主会长文论文，按不同的研究主题进行分类整理（分类标准参考 ACL 官方投稿主题），整理过程中难免有疏漏，欢迎大家在下方评论留言，交流探讨！论文列表已经同步更新到 GitHub，欢迎大家关注和 Star。目录Adversari
插件8：拼写检查
热门推荐
dearbaba_1666的博客
06-27 16万+
<?php // Plug-in 8: Spell Check // This is an executable example with additional code supplie
ANALYZING AND MITIGATING OBJECT HALLUCINATION IN LARGE VISION-LANGUAGE MODELS分析和减轻大视觉语言模型中的物体幻觉
Mars_prime的博客
11-28 1744
大型视觉语言模型（LVLM）在用人类语言理解视觉信息方面表现出了卓越的能力。然而，LVLM 仍然存在物体幻觉的问题，即生成包含图像中实际不存在的物体的描述的问题。这可能会对许多视觉语言任务产生负面影响，例如视觉摘要和推理。为了解决这个问题，我们提出了一种简单而强大的算法，LVLM Hallucination Revisor (LURE)，通过重建较少的幻觉描述来事后纠正 LVLM 中的对象幻觉。
LLM-Co框架：为智能体协作而生（Evaluating Multi-Agent Coordination Abilities in Large Language Models）
陈超帅的博客
01-21 1289
在人工智能领域，构建能够与人类及其他系统协作的智能体是一个备受关注的课题。大型语言模型（Large Language Models，LLMs）以其卓越的自然语言理解和生成能力，成为该课题中的一股新兴力量。今天，我们来探讨一项新研究，该研究评估了采用LLMs的智能体在不同协作场景下的表现，并提出了一个专为LLMs设计的协作框架——LLM-Coordination（LLM-Co）。
Attention Flows：Analyzing and Comparing Attention Mechanisms in Language Models
09-18
本文《Attention Flows：Analyzing and Comparing Attention Mechanisms in Language Models》是一篇研究论文，主要关注于深度学习领域内语言模型的注意力机制。随着自然语言处理（NLP）技术的发展，基于注意力机制...
Evaluation and Analysis of Hallucination in Large Vision-Language Models----大视觉语言模型中幻觉的评估与分析
Mars_prime的博客
11-30 1813
以 ChatGPT 为代表的大型语言模型（LLM）的成功引起了广泛的关注（Zhang et al., 2022;最近，大视觉语言模型（LVLM）扩展了 LLM 来理解视觉输入，并以零样本的方式展示令人印象深刻的多模态能力（Zhu et al., 2023；Gong）等，2023；Wang 等，2023；Li 等，2023a；Mu 等，2023；Su 等，2023；Liu 等，2020）。这些努力推动了多模态通用人工智能的发展。
基于学习的人工智能（1）为什么学习？
致力于大数据+AI 的应用创新。
11-24 213
学习是人类最重要的认知活动之一，贯穿我们的一生。出生后，我们无时无刻不在学习：从父母那里学说话，自己尝试走路，从小伙伴那里学会折纸飞机，从老师那里学到语文、数学等各种知识。研究人员始终将光源和风扇放在同一侧，经由学习，玉米幼苗逐渐学会了“有风的地方就会有光”的规律。之后，研究人员移去光源，并改变风扇方向，玉米幼苗依然按照所学知识，向风扇方向生长。1959 年，美国计算机学家亚瑟·塞缪尔设计了一款可以自我学习的跳棋程序，并将这一新方法称为“机器学习”，从而开启了机器自我学习的道路。
中国计算机学会（CCF）推荐学术会议-A（人工智能）：ACL 2026
iaast的博客
11-24 337
大会官网：https://2026.aclweb.org/录用率：20.3%（1699/8360，2025年）时间地点：2026年7月2日-加州·美国。截稿时间：2026年1月5日。CCF推荐：A（人工智能）
2025企业微信AI落地新趋势：微盛AI·企微管家破解内外增长难题
最新发布
weisheng00的博客
11-24 566
2025年企业微信AI落地的三大关键趋势：微盛AI·企微管家通过智能客服、精准营销和内部协作三大场景，帮助企业实现200%的客服效率提升、90%的报修响应提速和50%的员工效能增长。作为企业微信生态最大ISV服务商，微盛依托"AI+SCRM"双引擎，已服务160家500强企业，提供合规AI聊天Agent、生态闭环整合及私有化部署方案，有效解决数据孤岛问题，90%客户在3个月内实现AI能力全员覆盖。
RAG 的诞生：为了让 AI 不再“乱编”
weixin_44876263的博客
11-24 218
RAG全称，中文为“检索增强生成”。其核心思想是：在生成答案时，不仅依赖大模型内部的训练知识，还能够实时访问外部知识库或文档，从而生成更加准确和可靠的内容。就像一个学生回答问题，不仅依靠自己记忆，还会去图书馆查资料，然后结合记忆和查到的资料回答问题。你问模型：“请告诉我最新的新能源补贴政策。纯模型可能只靠训练记忆，回答的是过时或模糊的信息。RAG 模型会先去查最新政策文件，再结合训练知识生成答案，因此更准确。检索资料：先找到相关文档或信息。结合生成：把找到的资料和问题一起输入模型，让模型生成答案。
基于华为开发者空间实现花卉识别
优快云高校俱乐部官方博客
11-21 1795
基于华为开发者空间实现花卉识别
人工智能在医疗行业的革命性应用：从诊断到个性化治疗
2501_94114442的博客
11-21 486
人工智能（AI）技术近年来已经渗透到各个行业，其中，医疗行业无疑是受益最大之一。从疾病的早期诊断到个性化治疗方案的制定，AI正在加速医学领域的变革。通过机器学习、深度学习、自然语言处理等技术，AI不仅能够处理和分析大量的医疗数据，还能够帮助医生做出更加精准的决策，提升患者的治疗效果，并优化整个医疗体系的运作效率。本文将探讨人工智能在医疗行业的应用，分析其在不同医疗领域的具体作用，并展望AI如何进一步推动医疗健康行业的发展。
【NullSwap】NullSwap: Proactive Identity Cloaking Against Deepfake
人生不是轨道，是旷野。希望每天都有好心情。
11-23 235
由于生成模型的进步，被动检测高质量Deepfake图像的性能瓶颈，主动扰动提供了一种有前途的方法，通过将信号插入良性图像来禁用Deepfake操作。【生成模型的发展，使得生成高质量伪图越来越难被检测】然而，现有的主动扰动方法在以下几个方面仍然不能令人满意：【当前主动扰动存在的问题】1）由于直接元素添加而导致的视觉退化;2）对交换操纵的有效性有限;3）不可避免地依赖于白盒和灰盒设置，以在训练期间涉及生成模型。我们分析了深度伪造swap技术的本质，并论证了保护源身份而非目标图像的必要性。
【字节跳动 AI 原生 IDE TRAE 】
youngerwang的博客
11-22 698
字节跳动推出的AI原生IDE TRAE是国内首款协作级AI开发工具，采用"交互层-智能层-协议层-生态层"四层架构，支持SOLO智能自主开发模式和多模态交互。核心功能包括：1）SOLO模式支持需求分析、工具调度和全流程自动化开发；2）双模式交互系统兼顾精细控制和快速原型开发；3）多模态交互支持语音、图像和代码片段输入；4）开放的智能体生态系统。TRAE深度融合大模型能力，在前后端开发中展现出高效代码生成和自动化能力，并通过MCP协议实现安全工具调用。产品迭代迅速，216天发布63个版本，
EAGLE-2：通过动态草稿树加速语言模型推理
11-24 51
现代 Large Language Models（LLMs）的推理过程既昂贵又耗时，而 speculative sampling 已被证明是一种有效的解决方案。大多数 speculative sampling 方法（例如 EAGLE）使用静态的 draft tree，并默认 draft token 的接受率仅依赖于其位置。有趣的是，我们发现 draft token 的接受率也依赖于上下文。本文在 EAGLE 的基础上提出了，该方法引入了一种新的技术用于 draft 建模。
宇树G1-D：人形机器人下一步方向！
Charlie_Mo的博客
11-21 1053
宇树科技推出G1-D人形机器人工作站全栈解决方案，实现从硬件平台向"硬件+数据+AI"生态平台升级。该方案以G1-D为核心载体，为AI模型开发提供强力支撑，可应用于制造业等场景，提升生产精度和效率。在AI技术快速发展的背景下，掌握基于G1-D的AI开发技能将增强就业竞争力。这一创新方案为行业搭建AI训练基础设施，推动技术进步，展现未来发展潜力。
Language models enable zero-shot prediction of the effects of mutations on protein function
08-07
Language models have shown remarkable capabilities in predicting the effects of mutations on protein function without prior examples, a task known as zero-shot prediction. This ability is rooted in the way these models are trained and the vast amount of data they process. During training, language models learn to understand the context and relationships between different parts of a sequence. In the case of proteins, this means learning the relationships between amino acids and how changes in these sequences can affect the overall structure and function of the protein. By analyzing the co-occurrence patterns of amino acids across many protein sequences, language models can infer the importance of specific residues for maintaining the protein's function[^1]. When it comes to making predictions about mutations, language models can use the learned information to assess the likelihood that a particular mutation will disrupt the protein's function. This is done by evaluating the impact of the mutation on the local and global properties of the protein, such as its stability, folding, and interactions with other molecules. The model can then provide a score or probability indicating the effect of the mutation on the protein's function[^1]. One of the key advantages of using language models for zero-shot prediction is their ability to generalize from the data they have been trained on. Even without specific examples of certain mutations, the models can make educated guesses based on the general principles they have learned about protein sequences and structures. This makes them particularly useful for identifying potential disease-causing mutations or for guiding the design of new proteins with desired functions[^1]. For instance, a study demonstrated that a language model could predict the effects of mutations on the binding affinity of a protein to its ligand. The model was able to identify which mutations would lead to a decrease in binding affinity, even when those mutations had not been observed in the training data. This kind of prediction is crucial for understanding the molecular basis of genetic diseases and for developing targeted therapies[^1]. Here is a simplified example of how a language model might be used to predict the effects of mutations on protein function: ```python def predict_mutation_effect(model, wild_type_sequence, mutant_sequence): # Encode the sequences into a format suitable for the model encoded_wild_type = encode_sequence(wild_type_sequence) encoded_mutant = encode_sequence(mutant_sequence) # Get the model's predictions for both sequences wild_type_prediction = model.predict(encoded_wild_type) mutant_prediction = model.predict(encoded_mutant) # Calculate the difference in predictions to estimate the effect of the mutation effect = mutant_prediction - wild_type_prediction return effect ``` In this example, the `predict_mutation_effect` function takes a pre-trained model, a wild-type protein sequence, and a mutant sequence as inputs. It encodes the sequences into a format that the model can process, then uses the model to generate predictions for both sequences. The difference between these predictions is used to estimate the effect of the mutation on the protein's function. The application of language models in this domain is still an active area of research, and there are ongoing efforts to improve the accuracy and reliability of these predictions. Nevertheless, the current capabilities of language models represent a significant step forward in our ability to understand and manipulate protein function through computational means[^1].
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

UnknownBody

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值