文献阅读：Take a Step Back：Evoking Reasoning via Abstraction in Large Language Models

最新推荐文章于 2025-11-11 19:35:39 发布
原创 最新推荐文章于 2025-11-11 19:35:39 发布 · 1.4k 阅读 · 27 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#Step Back #Prompt工程 #Deep Mind #Google #LLM

Google新论文提出了一种名为StepBack的LLM提示调优方法，通过先抽象问题再细化解答，实验显示在复杂任务中超越传统策略，如STEM和知识问答。
最低0.47元/天 解锁文章
Query Rewriting 优化技术
m0_70960708的博客
08-02 934
HyDE 方法看起来是无监督的，这种方法没有通过标注过的数据来训练任何模型，包括 generative model（译者注：其主要任务是从数据中学习数据的分布，然后可以用来生成类似于训练数据的新数据样本，通常用于生成图片、文本、音频等类型的数据。） 这种方法中，新的 query 用 q+ 表示，是最初的 query（q）和 pseudo-documents（d’）的简单连接，用 [SEP] 分隔：q+ = concat(q, [SEP], d’)。）” 由于特定时间范围的限制，直接解决这一问题极具挑战性。
一种新的提示工程技术，称为“后退提示” A New Prompt Engineering Technique Has Been Introduced Called Step-Back Promptin
AI天才研究院
10-21 538
正如我们在大多数已发布的提示技术中看到的那样，当查询需要复杂的多步骤推理时，大型语言模型 (LLM) 需要指导，而分解是解决复杂请求时的关键组成部分。下面的文本显示了一个完整的 STP 示例，其中包括原始问题、后退问题、原则以及 LLM 生成最终答案的提示。这项技术还展示了静态提示的范围，并清楚地表明，随着复杂性的增加，需要使用更多的增强工具，如提示链和自主代理。该图表显示了遵循抽象和推理方案的后退提示的强大性能。后退提示修复了 39.9% 的基线预测错误的预测，同时导致 5.6% 的错误。
【Prompt Engineer】TAKE A STEP BACK: EVOKING REASONING VIA ABSTRACTION IN LARGE LANGUAGE MODELS
STAR GAME
10-18 669
arxiv: https://arxiv.org/abs/2310.06117LLM在生成COT的推理中可能会出现过程错误。为了减少错误，本文引入了Step-Back Prompting来增强模型的推理能力。PaLM-2L、GPT-4few-shot的PaLM2-L，评判正确答案和预测答案是否等效。“Yes”或“No”是返回值。few-shot 实验结果可以发现Step-Back提升效果明显示例的变化，对于性能提升影响不大。因此，1-shot就够了。分为五类错误： （2）Knowledge QA 对比基线
通过Step Back提示增强LLM的推理能力
安静的软件工程师
03-09 1287
通过Step Back提示增强LLM的推理能力
大模型提示工程之【后退提示 step back prompting】
rinceyuan的专栏
08-10 515
大模型提示工程之【后退提示 step back prompting】
Take a Step Back：通过抽象激发大模型推理能力（ICLR2024）
xx_nm98的博客
09-06 1326
我们提出了一种简单的提示技术——“退一步”提示（STEP-BACK PROMPTING），该技术能够使大语言模型（LLMs）进行抽象，从包含特定细节的实例中推导出高层次概念和基本原理。通过使用这些概念和原理来指导推理，LLMs显著提高了沿着正确推理路径找到解决方案的能力。
论文笔记：Take a Step Back：Evoking Reasoning via Abstraction in Large Language Models
qq_40206371的博客
04-02 859
ICLR 2024 reviewer 打分 888。
ICLR24大模型提示(8) | 退一步思考：在大型语言模型中通过抽象引发推理
码农的科研笔记
06-08 1174
论文提出了一种名为STEP-BACK PROMPTING的新方法，旨在通过抽象和推理两个步骤来提高大型语言模型在复杂推理任务上的表现。这一方法的灵感来源于人类在面对复杂问题时常常会先退一步，从更高的层次上进行抽象，得到指导问题求解的概念或原理。STEP-BACK PROMPTING的第一步是通过少量示例来演示如何进行抽象，即提示模型从给定的具体问题中抽取出高层次的概念或原理。第二步是在这些高层次概念或原理的基础上进行推理，以得出原始问题的答案。
论文导读 | 大模型幻觉的检测与消除
weixin_48167662的博客
10-30 2026
本次论文分享围绕大模型幻觉的检测与消除中的分类器、不确定性度量、模型的评价能力共三个方面进行了调研与整理。对于未来的研究方向，笔者认为，在训练中可以通过知识图谱等可信知识源批量生成高质量数据，以及设计相关算法排除低质、有害的数据，防止幻觉通过训练引入大模型。在推理过程中则应当研究更为鲁棒的推理机制，在检索生成、思维链、辅助代码等基础上提出更为复杂的融合策略，提升大模型的可信度。
论文 | TAKE A STEP BACK: EVOKING REASONING VIA ABSTRACTION IN LARGE LANGUAGE MODELS
m0_49651195的博客
07-08 1056
一种用于大型语言模型 (LLM) 的简单提示技术，它能够让 LLM 通过抽象推理来从包含特定细节的实例中得出高级概念和基本原则。利用这些概念和原则来指导推理，LLM 可以显著提高其沿着正确推理路径解决问题的能力。
Prompt相关论文阅读(05)--TAKE A STEP BACK: EVOKING REASONING VIA ABSTRACTION IN LARGE LANGUAGE (2024-11-30)
zhilanguifang的博客
11-30 334
我们提出了STEP - BACK PROMPTING，一种简单的提示技术，它可以使LLMs进行抽象，从包含特定细节的实例中导出高级概念和第一原理。利用这些概念和原理来指导推理，LLMs显著地提高了他们沿着正确的推理路径进行求解的能力。我们在PaLM - 2L、GPT - 4和Llama2 - 70B模型上进行了STEP - BACK PROMPTING实验，并在包括STEM、知识问答和多跳推理在内的各种具有挑战性的推理密集型任务上观察到了实质性的性能提升。
[论文笔记]思维链提示的升级版——回退提示
日积月累，天道酬勤
07-30 968
⭐ 作者提出了回退提示技术，使大模型能够进行抽象，从包含具体细节的实例中推导出高层次的概念和基本原则。通过利用这些概念和原则来指导推理，LLMs显著提高了按照正确推理路径解决问题的能力。
【LLM 论文】Step-Back Prompting：先解决更高层次的问题来提高 LLM 推理能力
VLyb
05-10 2545
通过一些 few-shot exemplar 即可使用 in-context learning 来学会，
退一步，看得更远：通过抽象引发大型语言模型中的推理
一只小蒟蒻的博客
03-27 732
转载自：退一步，看得更远：通过抽象引发大型语言模型中的推理 [译] 注：“Step Back”的意思是“退后一步”、“抽象思考”或者“从高层次审视”。这里 “Step-Back Prompting” 翻译为“退一步提示法”，表示思考和解决问题时先退后一步，从高层次进行考虑。 Huaixiu Steven Zheng、Swaroop Mishra1、Xinyun Chen、Heng-Tze Cheng Ed H. Chi、Quoc V Le、Denny Zhou Google DeepMind 共同贡献 摘要
LLM准确率飙升27%！DeepMind提出全新「后退一步」Prompt技术
Paper weekly
12-01 264
©作者 |拉燕来源 |新智元谷歌DeepMind全新提示技术「Step-Back Prompting」，让LLM性能拉满！前段时间，谷歌DeepMind提出了一种全新的「Step-Back Prompting」方法，直接让prompt技术变得脑洞大开。简单来说，就是让大语言模型自己把问题抽象化，得到一个更高维度的概念或者原理，再把抽象出来的知识当作工具，推理并得出问题的答案。论文题目：Take...
Latitude-LLM项目中的Step-Back Prompting技术详解
最新发布
gitblog_00226的博客
11-11 403
在人工智能领域，如何让大语言模型(LLM)产生更优质、更准确的回答一直是研究热点。Latitude-LLM项目中提出的Step-Back Prompting（回退式提示）技术，为这一挑战提供了创新解决方案。本文将深入解析这一技术的原理、实现方法及应用场景。 ## 什么是Step-Back Prompting？ Step-Back Prompting是一种分阶段提示技术，其核心思想是：在解决具体
Knowledge-QA-LLM: 基于本地知识库+LLM的开源问答系统
有问题请直接说问题就好
07-29 2429
Knowledge-QA-LLM: 基于本地知识库+LLM的问答系统。
LLM 推理优化进度大揭秘，自 DeepSeek R1 后推理时计算扩展有何新突破？
图灵教育
04-01 456
推理时计算扩展可以通过并行扩展（生成多个答案）、顺序扩展（迭代优化答案）或两者结合的方式实现，正如 Google 在 2024 年夏季发表的论文《Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters》中所描述的那样。然而，在本节关于推理时计算扩展的内容中，我特别关注那些明确调节生成 token 数量的技术，无论是通过额外的采样策略、自我纠正机制还是其他方法。
推荐：Knowledge QA LLM —— 让你的知识问答系统更智能
gitblog_00949的博客
08-18 399
???? 推荐：Knowledge QA LLM —— 让你的知识问答系统更智能 在追求信息高效检索与利用的时代，我们迎来了Knowledge QA LLM——一个灵感源自于langchain-ChatGLM的问答系统，但更为灵活且易于部署。本项目旨在将强大的本地知识库与大型语言模型（Large Language Model）结合，打造出一个针对任意领域都能提供精准答案的知识引擎。 项目介绍 Knowl...
A traditional Chinese architecture building named Xueyue Pavilion in Taoyuan County, surrounded by snow-covered pine trees and blooming plum blossoms under the moonlight. A scholar named Fang Zhengyi, wearing a Confucian robe, stands on the balcony holding a book or teacup, looking into the distance. A servant girl, dressed in traditional attire, smiles gently and whispers to him or offers a cup of tea. The scene is illuminated by the cold moonlight with warm lights from the pavilion windows, creating a contrast between the inside and outside. Snowflakes are gently falling, adding a sense of movement and poetry to the night.
08-19
Scholar Fang Zhengyi, in a Confucian robe, relaxes on a balcony, holding a teacup while a maidservant in elegant hanfu whispers and massages his shoulders. Warm light glows from the pavilion windows,...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值