LangChain 官方教程：修复大模型上下文的6大实用技巧，大模型入门到精通，收藏这篇就足够了！

大家用大语言模型 (LLM) 时候肯定都遇到过一个问题。就是当我们给模型输入很长的信息时，它的表现就会下降。

模型可能会忘记你最初的要求，或者在回答里出现事实错误。这个问题很普遍，技术上我们叫它“上下文腐烂” (Context Rot)。

为什么会这样呢？我们又该怎么解决这个问题？

最近，全球知名的 AI 开发框架 LangChain 给出了答案。他们开源了一个项目，叫 how_to_fix_your_context https://github.com/langchain-ai/how_to_fix_your_context。这个项目专门用来演示如何解决上下文太长的问题。

今天，我们就来学习一下 LangChain 提供的这 6 个实用技巧。

为什么长上下文会“腐烂”？

在学习解决方案之前，我们先要明白问题出在哪里。LangChain 的项目总结了四个主要原因。

1. 1. 上下文中毒 (Context Poisoning)
      一个错误的信息或者幻觉，可能会在长对话中被反复引用。这就像一颗老鼠屎坏了一锅汤。最终，整个对话的质量都会被污染。
2. 2. 上下文分心 (Context Distraction)
      如果上下文信息积累得太多，模型可能会“分心”。它会更关注历史对话的细枝末节，反而忽略了当前最重要的任务。
3. 3. 上下文混淆 (Context Confusion)
      上下文中包含了太多无关或者多余的内容。这会让模型感到“困惑”。模型会觉得它必须使用所有可用的信息，结果反而影响了回答的质量。
4. 4. 上下文冲突 (Context Clash)
      上下文中包含了相互矛盾的信息。这会导致模型的推理能力下降，逻辑开始混乱。

LangChain 的 6 个修复技巧

为了解决上面这些问题，LangChain 提出了“上下文工程” (Context Engineering) 的概念。他们用一个叫 LangGraph 的工具，实现了 6 个核心技巧。

LangGraph 是一个用于构建 AI 应用的底层编排框架。它很灵活，可以让你把复杂的流程拆解成一个个节点和边，非常适合实现这些精细的上下文控制策略。

下面，我们来看看这 6 个技巧。

技巧一：RAG (检索增强生成)

RAG 的全称是 Retrieval-Augmented Generation。

这个技巧大家可能比较熟悉。它的核心思想很简单。就是我们不把全部信息都丢给模型，只给它当前问题最相关的信息。

具体做法是：

1. 1. 先把你的知识库（比如一堆 PDF 文件）进行切分。
2. 2. 然后，把切分后的文本块转换成向量，存入向量数据库。
3. 3. 当用户提问时，系统会先根据问题去数据库里搜索最相关的几个文本块。
4. 4. 最后，把这些文本块和用户的问题一起，作为上下文提供给模型。

这样一来，模型看到的上下文就既简短又精确。

技巧二：工具筛选 (Tool Loadout)

这个技巧的核心是，只给模型当前任务所需要的工具。

很多 AI 应用会给模型提供各种工具，比如计算器、搜索引擎、代码解释器等等。如果把所有工具的说明都放进上下文，会占用大量空间，也可能让模型“挑花眼”。

“工具筛选”的做法是：

1. 1. 建立一个工具注册表，里面存放所有可用的工具和它们的详细描述。
2. 2. 当用户提出需求时，系统会先对需求进行分析。
3. 3. 然后，通过语义搜索，从注册表里匹配出最相关的几个工具。
4. 4. 最后，只把这几个被选中的工具的定义和用法放进上下文。

这样，模型就能更准确地选择和使用工具，避免了上下文混淆。

技巧三：上下文隔离 (Context Quarantine)

这个技巧听起来很专业，但原理不复杂。它的核心是把不同的任务，交给不同的“专家”智能体 (Agent) 处理。

每个专家智能体都有自己独立的、隔离的上下文窗口。

具体做法是：

1. 1. 创建一个“主管” (Supervisor) 智能体。
2. 2. 主管负责接收所有任务，并根据任务类型，把它分发给对应的专家。
3. 3. 比如，计算任务交给“数学家”智能体，联网搜索任务交给“研究员”智能体。
4. 4. 每个专家在自己独立的上下文中完成工作，互不干扰。

这种方式可以有效避免不同任务之间的信息冲突和干扰，特别适合构建复杂的多智能体系统。

技巧四：上下文剪枝 (Context Pruning)

这个技巧是在 RAG 的基础上做的优化。它的核心是在将检索到的信息交给主模型之前，先进行一次“剪枝”。

“剪枝”就是把信息中不相关或者不重要的部分直接去掉。

具体做法是：

1. 1. 和 RAG 一样，先检索出相关文档。
2. 2. 然后，使用一个更小、更快的模型（比如 GPT-4o-mini），让它读一遍这些文档。
3. 3. 这个小模型的任务是，根据用户的原始问题，只从文档中提取最核心、最相关的信息。
4. 4. 最后，只把这些被“修剪”过的精华内容，交给更强大的主模型去生成最终答案。

这个方法能极大地压缩上下文长度，节省成本，同时保证答案的质量。

技巧五：上下文总结 (Context Summarization)

这个技巧和“剪枝”很相似，但侧重点不同。

“剪枝”是直接删除无关内容。而“总结”是把所有检索到的内容，用更简洁的语言重新归纳一遍，生成一个摘要。

它适用于这样一种情况：检索到的信息全都是相关的，但表述非常啰嗦。

具体做法是：

1. 1. 在 RAG 检索到信息后，启动一个总结模型（同样可以是小模型）。
2. 2. 这个模型会阅读全部内容，并生成一个全面但简洁的摘要。
3. 3. 项目的目标是，在保留所有关键信息的前提下，将内容长度减少 50% 到 70%。

通过“总结”，我们可以在不丢失信息的情况下，有效降低 Token 消耗。

技巧六：上下文卸载 (Context Offloading)

这个技巧是把信息存储在模型的上下文窗口之外。你可以把它想象成给模型一个外部的“记事本”或者“草稿纸”。

模型不再需要把所有的东西都记在自己的“脑子”（即上下文窗口）里。

具体做法是，为模型提供可以读写的外部存储工具。

• • 模型可以在处理复杂任务时，随时把中间步骤、思考过程或者临时发现写入这个“记事本”。
• • 当需要时，再从“记事本”里把信息读出来。

这种方法让模型有了管理长期记忆的能力。它可以跨越多轮对话，甚至跨越不同的会话来积累和使用知识。

总结

“上下文工程” 是 AI Agent 应用开发中一个重要的内容。

LangChain 这次提供的 6 个技巧非常系统和实用。它们覆盖了从信息预处理、工具使用、多智能体协作到外部记忆管理的多个方面。如果你有使用过 Cursor、Calude Code 等这些 AI 编程工具，也能感受到这些技巧的存在。

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年 AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇

​

一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：

1. 100+本大模型方向电子书

2. 26 份行业研究报告：覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：

• 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
• 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
• 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
• 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT：听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：

• 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
• 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
• 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
• 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！

1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：

2. 102 道 AI 大模型真题：直击大模型核心考点

针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：

3. 97 道 LLMs 真题：聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：

三、路线必明： AI 大模型学习路线图，1 张图理清核心内容

刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！

路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

L5阶段：专题集丨特训篇 【录播课】

四、资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！