Interleaving Retrieval with Chain-of-Thought Reasoning for ... 论文阅读

最新推荐文章于 2025-08-05 11:24:58 发布
最新推荐文章于 2025-08-05 11:24:58 发布
阅读量1.8k 收藏 16
点赞数 31
CC 4.0 BY-SA版权
分类专栏： 笔记 文章标签： 论文阅读
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_52185313/article/details/139898824

Interleaving Retrieval with Chain-of-Thought Reasoning for Knowledge-Intensive Multi-Step Questions 论文阅读

文章目录

Abstract

基于提示的大型语言模型（LLMs）在生成多步骤问题回答（QA）的自然语言推理步骤或链式思维（CoT）方面表现出惊人的强大。然而，当所需的知识在LLM中不可用或其参数未更新时，它们会遇到困难。虽然使用问题从外部知识源中检索相关文本可以帮助LLMs，但我们观察到这种一步检索和阅读的方法对于多步骤QA是不足的。在这里，检索的内容取决于已经推导出的内容，而推导的内容可能又取决于之前检索的内容。为了解决这个问题，我们提出了IRCoT，一种新的多步骤QA方法，它将检索与CoT中的步骤（句子）交替进行，通过CoT指导检索，并反过来使用检索结果改进CoT。使用IRCoT与GPT-3相结合，在四个数据集（HotpotQA、2WikiMultihopQA、MuSiQue和IIRC）上的检索（最多提高21点）以及下游QA（最多提高15点）表现出显著提升。我们在分布外（OOD）设置以及使用更小的模型如Flan-T5-large时观察到了类似的显著增益，而无需额外训练。IRCoT减少了模型幻觉，产生了事实更准确的CoT推理。

大型语言模型能够通过适当提示生成逐步的自然语言推理步骤，即所谓的链式思维（CoT），来回答复杂的问题（Wei等，2022）。当回答问题所需的所有信息要么作为上下文提供（例如，代数问题），要么假设存在于模型的参数中（例如，常识推理）时，这种方法是成功的。

代码、数据和提示可在 https://github.com/stonybrooknlp/ircot 获得

介绍

然而，对于许多开放域问题，所有必需的知识并不总是可用或最新的，并且从外部来源检索知识是有益的（Lazaridou等，2022；Kasai等，2022）。

虽然基于问题的单次检索可以成功地为许多事实类任务（Lewis等，2020；Guu等，2020；Borgeaud等，2022；Izacard等，2022）增加相关知识，但这种策略在处理更复杂的多步骤推理问题时有明显的局限性。对于这些问题，通常需要检索部分知识，进行部分推理，并根据部分推理的结果进一步检索，并迭代进行。

例如，考虑下图中所示的问题，“丢失重力在哪个国家制造？”使用问题（尤其是过山车“丢失重力”）作为查询检索到的维基百科文档并没有提到丢失重力的制造地。相反，我们必须首先推断它是由一家名为Mack Rides的公司制造的，然后再进行进一步的检索，以获得指向制造国的证据。

在这里插入图片描述

基于此直觉，我们提出了一种交替方法，IRCoT，其中的理念是使用检索指导链式思维（CoT）推理步骤，并使用CoT推理指导检索。上图展示了我们称为IRCoT的检索方法的概述。我们首先使用问题作为查询检索一组基础段落。随后，我们在以下两个步骤之间交替进行：

  1. 扩展CoT：使用问题、到目前为止收集的段落和已生成的CoT句子生成下一个CoT句子；
  2. 扩展检索信息：使用最后一个CoT句子作为查询检索其他段落，并将其添加到已收集的段落中。

我们重复这些步骤，直到CoT报告答案或达到允许的最大推理步骤数。终止时，返回所有收集的段落作为检索结果。最后，我们使用这些段落作为上下文，通过直接QA提示（Brown等，2020）或CoT提示（Wei等，2022）来回答问题。

本文主要贡献是一种新颖的检索方法IRCoT，它利用LMs的链式思维生成能力来指导检索，并反过来使用检索来改进CoT推理。我们证明了IRCoT：

  1. 改进了多个多步骤开放域QA数据集的检索和少样本QA性能，在IID和OOD设置中均表现出色；
  2. 减少了生成CoT中的事实错误；
  3. 在无需任何训练的情况下提高了大规模（175B模型）和小规模模型（Flan-T5-，≤11B）的性能。

相关工作

开放域QA提示(CoT相关)

LLMs可以通过简单地使用一些示例作为提示来学习各种任务（Brown等，2020）。已经显示，当通过几个或零示例提示时，LLMs能够通过生成逐步的推理（链式思维，CoT）来回答复杂问题（Wei等，2022；Kojima等，2022）。提示已经应用于开放域QA（Lazaridou等，2022；Sun等，2022；Yu等，2023），但其在提高多步骤开放域问题的检索和QA方面的价值仍未得到充分探索。

监督的多步骤开放域QA

先前的工作在完全监督的设置下探索了开放域QA的迭代检索。

  1. Das等（2019）提出了一种迭代检索模型，该模型使用神经查询表示进行检索，然后基于阅读理解模型的输出进行更新。
  2. Feldman和El-Yaniv（2019）将类似的神经查询改写理念应用于多跳开放域QA。
  3. Xiong等（202
最低0.47元/天 解锁文章

200万优质内容无限畅学
Interleaving Retrieval with Chain-of-Thought Reasoning for Knowledge-Intensive Multi-Step Questions
weixin_43961909的博客
03-13 941
基于提示的大型语言模型(LLM)在为多步问答(QA)生成自然语言推理步骤或思维链(CoT)方面惊人地强大。然而，当必要的知识对于LLM来说是不可获得的或者在其参数内不是最新的时，它们会很困难。虽然使用问题从外部知识源检索相关文本有助于LLM，但我们注意到这种一步检索和阅读的方法对于多步问答是不够的。这里，检索什么取决于已经导出的内容，而导出的内容又可能取决于以前检索的内容。
AXI中的out of order和interleaving的定义和两者的差别？
元直的博客
05-01 1209
摘要：在 AXI (Advanced eXtensible Interface) 协议中，和是两个与事务处理顺序和数据传输相关的概念，它们都与 AXI 协议支持的多事务并发处理能力有关，但它们的定义、作用和实现机制有显著区别。下面详细解释它们的定义以及两者的差别。
**交叉检索与链式思考：为多步骤知识密集型问题提供创新解决方案**
gitblog_00015的博客
06-20 565
交叉检索与链式思考：为多步骤知识密集型问题提供创新解决方案 在这个数字化时代，数据的海量增长要求我们以更高效、智能的方式处理复杂的信息查询需求。为此，一群才华横溢的研究者提出了一个名为“Interleaving Retrieval with Chain-of-Thought Reasoning for Knowledge-Intensive Multi-Step Questions”（简称IRCo...
【RAG 论文】IRCoT：基于 CoT 的交叉检索解决多步骤问题
VLyb
05-15 3784
大多数 RAG 都是一次检索来辅助 LLM 生成，但是面对多步骤推理问题，往往需要多次检索多次推理才能解决。本文提出了 IRCoT：交叉进行 CoT 指导 retrieval 和使用 retrieval result 提升 CoT。也就是说，retrieval 和 reason 两个步骤必须相互通知。下图给了一个例子：对于如上的问题, “In what country was Lost Gravity manufactured?” 单独问 LLM 或者单独在维基百科上搜索, 都很难得到答案. 但是通过如下步
IRCoT 开源项目使用指南
gitblog_01102的博客
08-20 513
IRCoT 开源项目使用指南 项目介绍 IRCoT（Interleaving Retrieval with Chain-of-Thought Reasoning）是一个用于知识密集型多步骤问题的开源项目。该项目通过交叉检索与链式思维推理相结合的方法，显著提高了多步骤问答任务的性能。IRCoT 在多个数据集上表现出色，包括 HotpotQA、2WikiMultihopQA、MuSiQue 和 IIR...
探索知识密集型多步骤问题的解答新路径：交错检索与思考链路推理
gitblog_00156的博客
08-21 883
探索知识密集型多步骤问题的解答新路径：交错检索与思考链路推理 在当今信息爆炸的时代，如何高效精准地回答复杂、多步骤的问题成为了人工智能领域的一大挑战。今天，我们要向大家推荐一个前沿的开源项目——“交错检索与思考链路推理在知识密集型多步骤问题中的应用”，该项目基于ACL 2023的一篇重要论文。本项目为我们提供了一个创新性的框架，旨在提升对复杂问题的解答能力，通过融合深度检索与思维过程模拟的方法，将...
js-leetcode题解之97-interleaving-string.js
10-30
今天我们要探讨的是LeetCode平台上的一道中等难度的问题——“Interleaving String”，即交错字符串问题，具体到“97-interleaving-string.js”这个文件，它包含了使用JavaScript语言对该问题的解答。 ...
c语言-leetcode题解之0097-interleaving-string.zip
09-14
0097题，即“Interleaving String”，要求解者判断是否存在一种方法，能够将两个字符串s3，s1和s2交织成s3。具体来说，这个问题是这样的：给定三个字符串s1、s2和s3，判断s3是否是由s1和s2交织而成。交织是指s3中的...
Bit error Rate for Rayleigh channel harddecode with interleaving:Bit error Rate for Rayleigh channel harddecode with interleaving-matlab开发
05-30
在给定的"Bit error Rate for Rayleigh channel harddecode with interleaving"项目中，我们关注的是在瑞利信道下使用交织和硬解码技术对数据进行处理以改善误码率的情况。交织技术是一种用于对抗信道衰落的方法，它...
多跳推理和Cot链式推理的区别和优劣是什么
强化学习曾小健
05-01 990
选择多跳推理：​当任务需要整合多个信息源，或涉及复杂的信息检索和验证时，适合采用多跳推理方法。选择链式思维推理（CoT）：​当任务需要清晰的推理过程，或在教育、法律、医疗等领域需要可解释的答案时，适合采用 CoT 方法。结合使用：​对于复杂的推理任务，结合多跳推理和 CoT，或采用 MCR 和 ToT 等先进方法，可以获得更好的性能和可解释性。​如果您有具体的应用场景或任务需求，欢迎提供详细信息，我可以为您推荐更适合的推理策略和提示设计方案。多跳推理（Multi-hop Reasoning）
RLHF-V原论文阅读
2301_80365274的博客
08-01 650
当前MLLM研究现状：普遍受到幻觉问题影响（trustworthy）+RLHF-V（通过从细粒度纠正性人类反馈的行为对齐）+主要创新点：segment-level和DDPO+实现的效果。
论文阅读：DMD蒸馏 | One-step Diffusion with Distribution Matching Distillation
a486259的博客
08-03 896
DMD的目的是训练一个单步生成器Gθ，但不包含时间条件，将随机噪声z映射为一张逼真的图像。其通过最小化两个损失的和来训练快速生成器：一个是分布匹配损失，其梯度更新可以表示为两个得分函数的差值；另一个是回归损失，它鼓励生成器在固定的噪声-图像对数据集上匹配基础模型输出的大尺度结构。
论文阅读笔记：Dataset Condensation with Gradient Matching
m0_61222152的博客
08-02 893
本文提出了一种创新的数据集压缩方法——数据集凝缩（Dataset Condensation,DC）其核心思想是通过梯度匹配（Gradient Matching）,将一个大型数据集`T`浓缩成一个极小的、信息量丰富的合成数据集`S`。在`S`上从头训练的模型，其性能可以逼近在`T`上训练的模型，从而极大地节省了存储和训练成本。
ModeSeq论文阅读
ZHANG8023ZHEN的博客
08-01 228
传统的WTA的策略只会监督和GT差异最小的那条轨迹。而EMTA策略会监督在RNN结构中找和GT match上的并且是相对更早decode出来的那条轨迹（也就是在RNN结构中认为概率更高的那条）。如果没有match上的话，就退回WTA策略。这样就能让model尽早decode出目标的模态，也能提升Miss Rate的表现。主要特点：出轨迹是迭代了多次，每次出一条，然后去找和真值最近并且出现最早的轨迹，进行监督。参考：https://zhuanlan.zhihu.com/p/708683454。
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models论文阅读笔记
weixin_45180140的博客
08-01 920
大模型中思维链提示推理的介绍
论文阅读笔记：《Dataset Condensation with Distribution Matching》
m0_61222152的博客
08-03 767
用少量可学习的合成图像，**通过多组随机网络上的分布匹配（MMD）**，高效地“蒸馏”出与原始大数据集等价的训练集。
OpenVLA: 论文阅读 -- 开源视觉-语言-行动模型
--
08-01 1059
现有机器人操作策略的主要弱点是无法泛化至训练数据集之外的场景。相比之下，CLIP、SigLIP、Llama 2等视觉语言基础模型得益于互联网规模的预训练，具备更强的泛化能力。由此，利用现成的视觉语言基础模型作为核心组件，构建可泛化至新物体、场景和任务的机器人策略。已有探索将预训练语言和视觉语言模型用于机器人表征学习，或作为模块化系统组件用于任务规划与执行。更进一步，直接用于训练视觉-语言-动作模型（VLA）以实现控制。
【论文阅读|V2M: VISUAL 2-DIMENSIONAL MAMBA FOR IMAGE REPRESENTATION LEARNING】
2401_89699435的博客
08-03 627
论文题目：V2M: VISUAL 2-DIMENSIONAL MAMBA FOR IMAGE REPRESENTATION LEARNING年份：2024期刊会议： arXiv代码链接：未开源。
【论文阅读】Transformer Feed-Forward Layers Are Key-Value Memories
最新发布
xianshuiyihui的博客
08-05 747
transformer中的FFN的作用分析——论文详解
axi osd ，interleaving ，out-of- order如何理解和验证
08-05
<think>嗯，用户这次的问题是关于AXI协议中的OSD机制，具体是interleaving和out-of-order的理解与验证方法。从对话历史看，用户之前关注过MMU验证难点，现在转向总线协议层面，可能是SoC验证工程师或数字IC设计人员，需要深入理解AXI高级特性。 用户引用的三段材料很有价值：第一段说明乱序的本质是命令与数据响应顺序解耦；第二段指出交织比乱序更复杂且AXI4已移除写交织；第三段展示实际芯片配置案例。这些恰好构成理论-限制-实践的知识链。 关于out-of-order机制，核心在于解耦命令顺序与数据响应顺序。比如master先发A请求后发B请求，slave可以先返回B数据再返回A数据，通过ID标签区分归属。这能有效提升总线利用率，但验证时需重点检查ID匹配和顺序约束（如同ID顺序不变）。 interleaving机制更激进，它允许单个ID的数据包被打断插入其他ID数据。引用[2]提到AXI4仅保留读交织且实际支持有限，因为交织需要复杂的调度逻辑。验证时特别要注意数据包边界是否被破坏，以及中断后能否正确恢复上下文。 验证方法上，建议分层实施：基础功能测试定向用例覆盖握手协议；随机测试用约束随机生成ID序列和传输间隔；压力测试制造背靠背请求和极端延迟场景。覆盖率要监控ID组合、包长变化点、缓冲水位等关键节点。 用户可能隐含的需求是如何平衡验证完备性与复杂度。引用[2]提到支持这些特性会让代码量激增，实际项目需评估必要性。可以补充说明：简单外设通常固定ID实现顺序传输，而DMA等高性能模块才需要完整OSD支持。 最后生成的问题延伸了OSD的应用场景和调试技巧，这些都是验证工程师日常遇到的痛点。特别是问题3关于波形分析技巧，实际调试中定位乱序问题往往耗费大量时间。</think>以下是针对 AXI OSD（Out-of-Order, Interleaving）机制及其验证方法的系统解析： --- ### **一、核心机制解析** #### 1. **Out-of-Order (乱序传输)** - **本质**：解耦命令与数据响应的顺序关系 - 发送端顺序：Master 依次发送命令 A、B - 响应端顺序：Slave 可先返回 B 的数据，再返回 A 的数据 - **依赖 ID 标识**： 通过 `AWID/ARID` 区分不同事务（Transaction），同 ID 的数据必须按顺序传输，不同 ID 的数据可乱序[^1]。 ```verilog // 示例：两个不同 ID 的写事务 send_cmd(A, ID=1); // 先发送命令 A send_cmd(B, ID=2); // 再发送命令 B // Slave 可能返回： send_data(B, ID=2); // 先返回 B 的数据 send_data(A, ID=1); // 再返回 A 的数据 ``` #### 2. **Interleaving (交织传输)** - **本质**：单事务内数据包可被其他事务中断插入 - 例如：ID=1 的 Burst 传输过程中，插入 ID=2 的单拍数据 - **AXI4 限制**： - **仅读操作支持交织**（AXI4 移除写交织）[^2] - 需 Master/Slave 明确支持该特性 #### 3. **性能与复杂度权衡** | **机制** | 性能增益 | 实现复杂度 | 典型应用场景 | |------------------|------------------------|--------------------------------|----------------------| | Out-of-Order | 高（减少总线空闲） | 中等（需 ID 管理） | DMA、多核访问 | | Interleaving | 极高（消除气泡周期） | 高（需数据包拆解与重组） | 高带宽读操作 | > 💡 **关键设计约束**： > - Interleaving 要求 Slave 具备多事务并发处理能力 > - 乱序需保证同 ID 数据顺序性（`WSTRB` 对齐等）[^2] --- ### **二、验证方法** #### 1. **定向测试（Corner Cases）** - **乱序场景**： - 同 ID 乱序尝试 → 检测是否被阻止 - 不同 ID 数据返回顺序逆序 → 检查数据一致性 - **交织场景**： - 突发传输中插入高优先级事务 → 验证包完整性 - 背靠背（Back-to-Back）交织请求 → 检查时序冲突 #### 2. **随机约束测试** ```systemverilog class axi_transaction; rand bit [3:0] id; // 随机 ID rand int delay; // 请求间延迟 constraint valid_delay { delay inside {[0:5]}; } endclass // 生成乱序序列 task generate_oo_order; axi_transaction tr1, tr2; tr1 = new(); tr1.randomize(); tr2 = new(); tr2.randomize(); send(tr1); #tr1.delay send(tr2); // 可变延迟注入 endtask ``` #### 3. **覆盖率模型** | **覆盖点类型** | 监测目标 | 示例指标 | |--------------------|-----------------------------------|------------------------------| | **事务顺序** | 命令/响应顺序组合 | 不同 ID 响应逆序比例 | | **交织深度** | 单事务被中断次数 | Burst 长度 vs 中断次数 | | **边界条件** | FIFO 满/空、超时 | Buffer 溢出触发率 | #### 4. **断言检查（SVA）** ```systemverilog // 同 ID 数据顺序性断言 property data_order; @(posedge clk) (valid && (id == prev_id)) |-> (data_seq == prev_seq + 1); endproperty ``` #### 5. **硬件加速验证** - 使用 FPGA 原型或 Emulator 进行长序列压力测试 - 注入极端场景： - 100% 总线利用率下的乱序 - 最大支持 ID 数并发请求 --- ### **三、调试与优化建议** 1. **波形分析重点**： - 关注 `ID` 标签与 `LAST` 信号匹配性 - 检查交织场景下 `ARLEN` 与实际数据包长度 2. **性能瓶颈定位**： - 统计总线空闲周期（Idle Cycles） - 分析交织中断导致的重新仲裁开销 3. **面积优化**： - 非高性能场景可关闭 Interleaving 以节省逻辑[^2] --- ### **四、工程实践参考** 在 Exynos 4 芯片中，通过 MIU（Memory Interconnect Unit）配置交织参数： ```c // 引用自 Linux 内核源码[^3] writel(APB_SFR_INTERLEAVE_CONF_VAL, EXYNOS4_MIU_BASE + APB_SFR_INTERLEAVE_CONF_OFFSET); ``` 此处 `Interleave_bit0` 和 `Interleave_bit1` 控制地址交织策略，需与 DDR 控制器配置匹配。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

PD我是你的真爱粉

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值