Read Quietly, Think Aloud: Decoupling Comprehension and Reasoning in LLMs

文章主要内容和创新点

主要内容

本文聚焦大型语言模型（LLMs）与人类认知的关键差异：LLMs在生成文本前缺乏类似人类“默读”（内部理解和思考）的阶段，而是直接进行输出生成。为解决这一问题，研究提出并验证了两种技术，旨在让LLMs具备“默读”能力，从而提升其理解深度和推理质量：

1. READQ技术：通过在训练时对输入序列的前K个token进行损失掩码（不计算预测损失），为模型提供初始“默读”窗口，使其专注于理解上下文而非过早预测，避免因早期上下文贫乏导致的低效学习。
2. READQBUDDY架构：引入辅助模块（“阅读伙伴”），并行处理输入并生成语义表示，持续为主要生成模型提供精炼的上下文信息，确保长文本生成过程中理解不衰减。

实验结果显示，两种技术在多个基准测试（如ARC Challenge、Hellaswag、OpenBook QA等）上均显著提升模型准确率，且在更大模型（如Llama 3.1 70B）和专业领域数据集（如科学领域）中表现出可扩展性。

创新点

1. 分离理解与推理阶段：首次明确将LLMs的“理解”（默读）与“推理生成”（表达）阶段分离，弥补了现有方法仅关注显式推理过程的不足。
2. 解决初始token预测低效问题：通过READQ的损失掩码，避免模型因早期上下文贫乏的token预测（高方差、低效率）浪费学习资源，引导其优先构建上下文表示。
3. <