增强LLM:使用搜索引擎缓解大模型幻觉问题

Google、UMass Amherst和OpenAI联合发布论文,提出动态问答基准测试FRESHQA及解决方法FRESHPROMPT。FRESHQA按难度和答案性质分类问题,评估模式有两种。FRESHPROMPT利用搜索引擎获取实时信息,经处理后辅助模型推理。实验表明,它能提升模型回答动态问题的能力,且效果优于其他方法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

论文题目:FRESHLLMS:REFRESHING LARGE LANGUAGE MODELS WITH SEARCH ENGINE AUGMENTATION

论文地址:https://arxiv.org/pdf/2310.03214.pdf

论文由Google、University of Massachusetts Amherst、OpenAI联合发布。


        大部分大语言模型只会训练一次,不会被频繁的更新,训练用到的知识会慢慢过时,所以它无法适应变化的世界。论文作者提出了动态问答的基准测试,称为FRESHQA,并且提出了一种简单的解决问题的方法,FRESHPROMPT。

        FRESHQA收集的问题根据难度可以分别单跳和多跳两种,两种问题的区别在于是否需要多级的推理。而根据答案的性质问题可以分为1.永远不变;2.缓慢变化;3.快速变化;4.虚假前提。

测试集的评估模式也分别两种:1.RELAXED,它仅衡量主要答案是否正确; 2.STRICT,它衡量响应中的所有声明是否是事实和最新的(即没有幻觉)。

        FRESHPROMPT 是一种简单而有效的方法,对于给定的问题,它通过提取所有最新和相关的信息(包括来自搜索用户也询问的相关问题的知识)来利用搜索引擎,并使用少样本上下文学习教模型推理检索到的证据并找出正确的答案。
        搜索引擎返回内容如下图,serper api返回内容类似。


FRESHPROMPT的具体做法如下: 
        使用搜索引擎得到相关实时信息,并处理成统一的结构化信息:
        1.对问题q进行逐字记录检索搜索引擎,并保留所有检索信息。
        (搜索引擎使用google的serper api;搜索返回字段如下:relatedSearches,organic,searchParameters,knowledgeGraph,answerBox,peopleAlsoAsk,根据问题不同返回字段不同。)
        2.将所有信息进行提取,生成内容为结构化的统一格式,证据E = {(s,d,t,x,h)的列表。
        (符号表示如下:s:source, d:date, t:title, x:snippet, h:highlight)
        3.对E的列表按时间进行排序。

        为了帮助模型“理解”任务和期望输出,我们在输入提示的开头提供了输入输出示例的少量演示。每个演示都显示了模型示例问题和问题检索到的证据列表,然后对证据进行思维链推理,以找出最相关和最新的答案。最终的提问构造如下图。其中demonstrations表示输入输出示例的演示。


   实验结果

     
表中主要展示不同的模型和实验配置(消融实验)在FRESHQA数据集上的表现(STRICT)。
大模型选取了gpt3.5和gpt4。
google search表示直接使用google进行回复,选取结果为answer box(如有) 或者 第一个结果的 text snippet。 
PPL.AI是一个将LLM和搜索引擎相结合以生成对用户查询的有用响应的答案引擎。
self-ask是一种使用情景学习的方法,教LLM将每个问题分解成更简单的子问题,然后通过谷歌搜索来回答。
对于FRESHPROMPT的设置,搜索答案的选取不同(snippets only、answer box relevant info)、搜索结果的排序不同(search order、time order、random order)、搜索结果数量不同(1、5、15,默认为10)、输入输出示例描述demonstrations数量不同、是否添加premise check(让模型进行错误前提检查)。

结论

1.FRESHPROMPT可以带来巨大的效果提升,因为外部实时数据的加入,使模型可以回答动态问题。
2.FRESHPROMPT比其他的搜索增强的方法效果好,对比方法为PPL.AI和+self-ask方法。3.premise check方法对与错误前提问题有效,但是同时也会降低有效前提问题的回答准确性。总体结果为弊大于利。
4.更全面更新的相关证据的效果会更好。time order>search order>>random order;搜索内容更加全面(不仅仅是text snippets)也会有利回复。
5.增加检索到的证据的数量进一步提高了 FRESHPROMPT效果,但要考虑大模型的token length limit。
6.冗长的演示(demonstrations)改进了复杂的问题,但也增加了幻觉。

<think>嗯,用户想要系统梳理大语言模型的核心知识点,包括各种技术、训练方法和应用挑战,还要结合最新进展和案例。首先,我需要确定覆盖哪些主要技术点。用户提到了提示词工程、注意力机制、位置编码、参数高效微调、幻觉问题、对齐难度、无监督学习、token、CNN、Agent、多模态等等。这些都是LLM的关键部分。 首先,提示词工程。这部分需要解释清楚什么是提示词工程,它的作用,以及实际应用案例。比如Chain-of-Thought和Few-shot prompting,这些都是比较新的技术,像GPT-4和Claude的应用案例应该提到。还要注意用户提到的参考引用,比如引用[1]里关于幻觉问题,可能需要在这里关联一下。 然后是注意力机制,特别是Transformer的自注意力机制。这部分需要详细解释缩放点积注意力,多头注意力的结构,以及最新的改进如FlashAttention。可能需要举一些例子,比如BERT和GPT的架构差异,或者最新的模型如Mistral-7B如何优化注意力机制。 位置编码部分,要区分绝对位置编码和相对位置编码,比如RoPE和ALiBi。用户提到结合最新进展,比如LLaMA2使用的RoPE,这里可以引用相关模型的信息,不过用户提供的引用中没有直接提到,可能需要依赖已有的知识。 参数高效微调技术,比如LoRA、Adapter、Prompt Tuning。这部分需要说明各自的原理和优势,比如LoRA在减少参数量方面的效果,结合实践案例,比如Stable Diffusion中使用LoRA,或者Meta的LLaMA-Adapter应用。引用[3]提到了分布式训练和框架,可能可以关联到训练方法的部分。 幻觉问题和对齐难度是用户特别提到的挑战。需要引用[1]和[2]中的内容,特别是LLM幻觉来源,比如训练数据的错误和多模态中的对齐问题。比如引用[2]讨论的MLLM中的幻觉,可以提到MiniGPT-4的例子,以及如何通过局部特征对齐来缓解问题。 无监督学习部分,重点在预训练目标和数据增强。比如BERT的MLM和GPT的自回归,以及最新的ELECTRA和T5模型。这部分需要结合最新的模型进展,比如PaLM和Chinchilla的训练策略。 Tokenization方面,需要解释不同的分词方法,如BPE、WordPiece、Unigram,以及它们对模型性能的影响。比如GPT-4使用改进的BPE,处理多语言时的挑战。 卷积神经网络在LLM中的应用可能较少,但可以提到轻量化设计中的结合,比如MobileBERT或ConvBERT,或者多模态中的CNN处理视觉特征。这部分可能需要简要带过,因为用户可能更关注Transformer相关的内容。 Agent部分,需要说明自主决策和工具调用的能力,比如AutoGPT和Meta Toolformer,以及微软的TaskMatrix。这些案例展示了Agent在实际应用中的潜力。 多模态方面,结合引用[2]的内容,讨论MLLM的挑战,如视觉与文本的对齐问题,以及解决方案,如Flamingo、BLIP-2和LLaVA。需要提到幻觉问题在MLLM中的严重性,以及如何通过局部特征和增强理解来改进。 最后,应用挑战部分,要总结幻觉、对齐、多模态、计算成本等问题,并引用最新的研究方向和解决方案,比如知识蒸馏、RLHF、MoE架构等。 需要注意用户的引用材料,特别是幻觉和对齐的部分,确保在回答中正确引用。例如,引用[1]提到LLM幻觉来自概率模型和训练数据,而引用[2]讨论MLLM中的视觉与文本对齐问题。需要自然地融入这些引用,帮助增强回答的可信度。 另外,用户要求使用中文,数学公式用$...$和$$...$$格式。例如,在解释注意力机制时,要正确使用LaTeX,如缩放点积注意力的公式。同时,生成的相关问题需要覆盖各个核心知识点,帮助用户进一步深入学习。 总结一下,需要分模块逐一解释每个技术点,结合最新模型和案例,正确引用提供的资料,并确保格式正确。同时,生成的问题要针对每个部分,帮助用户扩展思考。</think>以下是大语言模型(LLM)核心技术知识点系统总结,结合最新研究进展与实践案例: --- ### 一、核心技术模块 1. **提示词工程** - 核心方法:零样本提示(Zero-Shot)、小样本提示(Few-Shot)、思维链(Chain-of-Thought) - 实践案例:GPT-4通过指令微调实现复杂推理任务[^1],Claude 3采用结构化模板提升代码生成能力 - 最新进展:*Program-Aided Language Models*(PAL)将自然语言指令映射为可执行代码逻辑 2. **注意力机制** - 数学表达:缩放点积注意力 $$ \text{Attention}(Q,K,V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V $$ - 创新方向:FlashAttention-2优化GPU显存利用率,Mistral-7B采用滑动窗口注意力降低计算复杂度 - 多模态扩展:Flamingo模型通过交叉注意力融合文本与图像特征[^2] 3. **位置编码** - 绝对编码:Transformer原始正余弦函数 $PE_{(pos,2i)}=\sin(pos/10000^{2i/d})$ - 相对编码:RoPE(旋转位置编码)在LLaMA2中实现长文本建模,ALiBi(注意力线性偏置)支持动态扩展上下文窗口 --- ### 二、训练方法体系 1. **参数高效微调** | 技术 | 参数量占比 | 典型应用 | |------------|------------|-------------------------| | LoRA | <5% | Stable Diffusion微调 | | Adapter | 3-10% | LLaMA-Adapter多任务学习 | | Prompt Tuning | 0.1% | T5文本生成优化 | 2. **无监督预训练** - 目标函数:掩码语言建模(MLM)、自回归预测(AR)、对比学习(如SimCSE) - 数据增强:PaLM使用去重后的1.56T token数据集,Chinchilla验证数据量与模型规模的平衡法则 3. **分布式训练** - 并行策略:张量并行(Megatron-LM)、流水线并行(GPipe)、数据并行(DeepSpeed-Z3)[^3] - 案例:Meta训练LLaMA3时采用8D混合并行策略,通信开销降低40% --- ### 三、核心挑战与解决方案 1. **幻觉问题** - 根源:训练数据噪声(如引用[1]所述)、推理时过度依赖频率先验 - 解决方案:检索增强(RAG)、事实一致性约束(如DELLLA的置信度校准) - 多模态场景:BLIP-2通过Q-Former对齐视觉-语言特征空间[^2] 2. **对齐难题** - RLHF三阶段:监督微调→奖励建模→强化学习(ChatGPT实践路径) - 最新方法:DPO直接偏好优化替代传统RLHF,训练效率提升6倍 3. **多模态挑战** - 视觉-语言对齐:LLaVA采用CLIP视觉编码器+MLP适配器,MiniGPT-4通过两阶段训练缓解幻觉[^2] - 视频理解:Video-LLaMA引入时间注意力模块处理时序信息 --- ### 四、前沿技术融合 1. **Agent系统** - 工具调用:Toolformer通过API接口实现计算器调用、搜索引擎访问 - 案例:AutoGPT实现任务分解与递归执行,Microsoft TaskMatrix支持多模态交互 2. **MoE架构** - Mixtral-8x7B采用稀疏激活机制,推理速度提升5倍 - 路由算法改进:Expert Choice实现负载均衡,吞吐量提升30% 3. **轻量化部署** - 量化:GPTQ实现4-bit量化精度损失<1% - 编译优化:vLLM框架的PagedAttention技术,服务吞吐量提升24倍 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值