对比不同Layer输出，在解码阶段消除大模型幻觉

原创 已于 2024-02-19 17:40:16 修改 · 447 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#AIGC #大模型 #幻觉

于 2024-02-19 17:38:47 首次发布
本文介绍了一种深度学习模型中减少幻觉现象的方法，通过比较最后一层的logit与其他层的结果，选择最不相似的分布进行融合，以此来改进模型的性能。这种方法通过简单的对比策略调整logit值，有助于提高模型的稳定性和准确性。
部署运行你感兴趣的模型镜像

实现方式

对比最后一层出来的logit，和前面Layer出来的logit，消除差异过大的分布，从而降低幻觉：

  1. 最后一层Layer出来的logit容易的得到；

  2. 选择与最后一层的logit最不相似的分布的那层结果

实现原理

也是很简单的对比方式，最终的logit由最后一层的Layer输出的logit，减去前期选择的层的logit，

得到最终的logit

地址

https://arxiv.org/pdf/2309.03883.pdf

您可能感兴趣的与本文相关的镜像

Wan2.2-T2V-A5B

Wan2.2-T2V-A5B

文生视频
Wan2.2

Wan2.2是由通义万相开源高效文本到视频生成模型，是有​50亿参数的轻量级视频生成模型，专为快速内容创作优化。支持480P视频生成，具备优秀的时序连贯性和运动推理能力

wendaJ
关注
大语言模型应用指南：交互格式
AI天才研究院
07-09 1103
随着人工智能技术的快速发展，大语言模型（Large Language Models，LLMs）已经成为了自然语言处理领域的重要突破。这些模型能够理解和生成人类语言，为各种应用场景提供了强大的支持。然而，要充分发挥大语言模型的潜力，我们需要深入理解并掌握与之交互的最佳实践。本文将重点探讨大语言模型的交互格式，为开发者和用户提供全面的应用指南。在这个快速发展的领域中，交互格式的设计和实现直接影响着用户体验和模型性能。
大语言模型应用指南：什么是大语言模型
AI天才研究院
07-13 1748
随着人工智能技术的不断发展,大型语言模型(Large Language Models, LLMs)近年来受到了广泛关注。作为一种基于深度学习的自然语言处理(NLP)技术,大语言模型能够通过训练海量文本数据,捕捉语言的复杂模式和语义关联,从而实现对自然语言的理解和生成。传统的NLP系统通常采用基于规则或统计方法,需要手工设计特征和构建复杂的流程。而大语言模型则是一种端到端的方法,通过自监督学习直接从原始文本中学习语言知识,无需人工特征工程,具有更强的泛化能力。
DoLa：对比层解码提高大型语言模型的事实性
RM_Jin的博客
10-27 1456
尽管大型语言模型（LLM）具有很强的功能，但它们容易产生幻觉，即生成与预训练期间观察到的事实偏离的内容。本文提出了一种简单的解码策略，用于减少预训练的LLM中的幻觉，该策略不需要依赖检索的外部知识或额外的微调。本方法通过对比从较高层和较低层投影到词汇空间所得到的logits之间的差异来获得下一个token的分布，利用了LLM中事实知识通常局限于特定的Transformer层的事实。这种 对比层解码（DoLa）的方法能够更好地表现出事实知识，并减少生成不正确事实的情况。
大模型微调实战：彻底解决输出重复与幻觉问题
嗨，欢迎来到我的 优快云 博客小天地！一名深耕多年的技术发烧友。在这里，我将把日常工作中积累的宝贵经验，从复杂架构设计的精妙之处，到代码优化的实战技巧，毫无保留地分享给大家。
09-25 2217
大模型微调实战：彻底解决输出重复与幻觉问题
（2024|ICLR，LLM 幻觉，事实性，知识层次）DoLa：通过对比层解码可提高大型语言模型的事实性
qq_44681809的博客
02-07 1213
本文提出了一种新的解码方法——对比层解码，它通过对比 LLM 不同层的输出来减少幻觉问题，而无需检索外部知识或额外微调
NLP/大模型八股专栏结构解析
WeLearnNLP
04-05 1272
🎯 专栏推荐 | 搞定NLP面试，从这里开始！ NLP面试到底考啥？这套专栏替你总结好了！基础知识、经典算法、热门应用，还有面试官爱问的坑题，统统带解析。 不想临时抱佛脚？不想面试时一脸懵？来这里，轻松搞懂，稳稳拿Offer。 适合自学提升，也适合面试突击，赶紧收藏，一起上岸！
LLM 大模型幻觉是什么？
关于我的学习记录
01-23 1455
在语言模型的背景下，幻觉指的是：看似流畅自然的表述，实则不符合事实或者是错误的。
万字之文，梳理理解AI大模型
m0_63171455的博客
05-24 2214
1）突破了远距离文本依赖的学习限制，避开了递归网络的模型体系结构，并且完全依赖于注意力机制来绘制输入和输出之间的全局依赖关系。2）可高度并行进行训练，这对发挥硬件红利以及快速迭代模型非常重要。下图是论文提到的Transformer模型，对编码器和解码器使用堆叠式的自注意力和逐点式、全连接层，分别如图1的左半部分（编码器）和右半部分（解码器）所示。**OpenAI基于该工作基础上发展了GPT（Generative Pre-training）**生成式预训练模型。
AIGC元年大模型发展现状手册
孙佰贵的专栏
03-18 6781
AIGC大模型在人工智能领域取得了重大突破，涵盖了LLM大模型、多模态大模型、图像生成大模型以及视频生成大模型等四种类型。这些模型不仅拓宽了人工智能的应用范围，也提升了其处理复杂任务的能力。a.) LLM大模型通过深度学习和自然语言处理技术，实现了对文本的高效理解和生成；b.) 多模态大模型则能够整合文本、图像、声音等多种信息，实现跨模态的交互和理解；c.) 图像/视频生成大模型则进一步将AI技术应用于视觉内容创作，为用户提供了全新的创作以及内容消费体验。本文将做相关技术内容展开讨论与纪要。
大模型算法岗面试题(含答案)
AI前沿技术的分享！
02-17 1117
大模型LLM（Large Language Models）通常采用基于Transformer的架构。Transformer模型由多个编码器或解码器层组成，每个层包含多头自注意力机制和前馈神经网络。这些层可以并行处理输入序列中的所有位置，捕获长距离依赖关系。大模型通常具有数十亿甚至数千亿个参数，可以处理大量的文本数据，并在各种NLP任务中表现出色。
视频理解大模型最新进展
David_house的博客
09-19 2456
总结了2023-2024年的视频理解大模型
大模型幻觉是指什么
06-19
# 示例代码：通过对比层解码缓解大模型幻觉（DoLa方法） def contrastive_decoding(model, input_ids, num_layers): # 获取模型各层输出 layer_outputs = model(input_ids, output_hidden_states=True).hidden_...
Diff-MTS: Temporal-Augmented ConditionalDiffusion-Based AIGC
weixin_48372662的博客
12-01 1452
本文提出Diff-MTS模型解决工业多变量时间序列(MTS)数据生成难题。针对现有VAEs和GANs方法在真实性、训练稳定性及条件一致性方面的不足，创新性地结合扩散模型与条件自适应机制。核心贡献包括：(1)采用余弦噪声调度改进DDPM，保留更多时序信息；(2)设计Ada-MMD机制实现无分类器的条件对齐；(3)开发TDR-UNet网络，通过时序分解和注意力机制捕捉复杂依赖关系。实验表明，该模型能稳定生成高质量工业MTS数据，显著优于现有方法，为工业智能发展提供了有效数据支撑。
AIGC、Agent、MCP、A2A和AG-UI促进AI从基础能力到协同生态演进
智海观潮的博客
12-01 615
近年来，人工智能技术迎来爆发式发展，AIGC、Agent、MCP等概念相继涌现并快速迭代，推动AI从单一工具向协同生态演进，AI技术从“能对话”进化到“能干活”。2022年ChatGPT点燃了AIGC；Function Calling催生了Agent；再往后，行业发现「如何让模型低成本地调用外部世界」成为新瓶颈，于是MCP、A2A和AG-UI三大协议陆续登场。
工业制造企业数字化转型实践：基于AIGC技术的社媒矩阵运营系统重构
最新发布
Tezign_space的博客
12-04 616
摘要：本文以某TOP润滑油品牌为例，探讨传统制造企业如何通过AIGC技术重构社交媒体运营体系。针对内容生产周期长、多平台适配难等痛点，项目引入AI内容中台与智能体解决方案，构建包含数据底座、AI生产工作流和智能分发三层的技术架构。系统整合CV、NLP、ASR等技术实现素材结构化，通过AI混剪、数字人驱动等模式提升效率，最终使单条内容生产周期缩短75%，成本降低60%。案例证明AIGC技术赋能传统行业的价值在于系统化整合技术模块，实现人机协同的数字化转型。
AIGC查重工具有什么？学术写作的“防撞指南”来了
2501_94097580的博客
12-01 615
我曾用免费版检测一篇3000字的课程论文，系统不仅标出了12%的重复率，还在AIGC报告中指出“第三章结论部分AI生成概率63%，建议增加个人分析”。我曾用ChatGPT改写一段实验方法，结果用PaperPass的AIGC检测时，系统直接标红“该段落AI生成概率达87%”，并提示“逻辑连贯但缺乏人类写作的个性化表达”。我能否用自己的语言说得更好？案例：我导师曾用Turnitin检测一篇投稿论文，系统不仅标出了AI生成段落，还对比了该段落与GPT-4训练数据的相似度，最终论文因“AI代写嫌疑”被拒稿。
Sampler AI + 滤波算法：解决 AIGC 贴图“噪点过剩”，构建风格化 PBR 工业管线
海外旅居设计师，15年设计经验。
12-02 761
今天跟各位同学分享的，就是基于 Adobe Substance 3D Sampler 与 Firefly 的“频段分离”工作流。它能让你保留 AI 的创意构图，同时获得纯净的风格化材质表现。
互联网大厂Java/Agent面试实战：AIGC内容社区场景下的技术问答（含RAG/Agent/微服务/向量搜索）
小白学编程~
12-04 252
1）RAG流程：用户输入 -> 检索（向量搜索 top-k）+基于过滤器的候选打分（Elasticsearch + vector）-> 组装上下文（include source citations）-> 发送给生成模型（温度控制、system prompt）-> 输出并附带引用与置信度。3）避免幻觉：提供检索证据、限制模型自由发挥（提示工程），使用评分策略、基于逻辑规则的过滤、后处理验证（可校验事实的API），以及使用NLI/faithfulness模型进行二次验证。在消费端做去重，使用乐观锁或幂等键。
多Stream并发实战：用流水线技术将AIGC服务P99延迟压降63%
云雾J视界的博客
12-02 1013
本文基于阿里云真实案例，通过多Stream流水线与CUDA Graph优化语音识别服务，在T4上实现QPS从45到126、P99延迟降低63%。方案将流程拆为CPU预处理、GPU频谱转换和Transformer推理三阶段，用独立Stream并行执行，并以事件同步和Graph固化消除调度开销，GPU利用率提升至82%。提供可复现代码与部署方案。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值