上下文工程

最新推荐文章于 2025-10-08 09:30:00 发布
原创 最新推荐文章于 2025-10-08 09:30:00 发布 · 728 阅读 · 16 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#上下文工程 #提示词

“上下文工程”（Context Engineering）是一个在自然语言处理（NLP）、大语言模型（LLM）应用和人工智能系统设计中日益受到关注的概念。它指的是系统性地设计、组织、优化和管理输入上下文（context）的过程，以提升模型理解、推理和生成能力，特别是在复杂任务中。

一、什么是“上下文”？

在大模型语境中，“上下文”通常指：

  • 模型输入中的文本内容（如用户提问、历史对话、文档片段等）；
  • 模型在生成响应时所依赖的所有信息；
  • 包含任务描述、示例、背景知识、约束条件等。

✅ 例如：在问答系统中，上下文可能是问题本身 + 一段参考文章。

二、为什么需要“上下文工程”？

尽管大模型具有强大的语言理解能力，但它们的性能高度依赖于输入上下文的质量和结构。如果上下文混乱、冗余、不完整或误导，模型表现会大幅下降。

常见问题（无上下文工程时）：

  • 模型“忘记”关键信息；
  • 产生幻觉（Hallucination）；
  • 输出不符合预期；
  • 无法正确理解任务意图；
  • 无法处理长序列或复杂逻辑。

👉 所以，上下文工程的目标是“让模型看得更清楚、想得更明白”。

三、上下文工程的核心技术与方法

方法说明示例
Prompt 设计（Prompt Engineering）通过精心构造提示词来引导模型行为。“请用简洁的中文回答以下问题：……”
上下文压缩（Context Compression）保留关键信息，去除冗余内容。使用摘要、关键词提取、向量检索等。
检索增强生成（RAG, Retrieval-Augmented Generation）从外部知识库中动态检索相关信息并注入上下文。用户问“2023年诺贝尔奖得主是谁？”，系统从数据库中检索最新信息。
分块与结构化上下文将长文档按逻辑分块，添加标题、编号、摘要。将技术文档分为“背景”、“方法”、“结果”三部分。
角色设定与元提示（Meta-Prompting）明确模型角色（如“你是一位专业律师”），增强推理一致性。“请以资深产品经理的视角分析这个需求。”
少样本学习（Few-shot Prompting）提供少量示例来“教”模型任务模式。给出3个问答对后，让模型回答新问题。
思维链（Chain-of-Thought, CoT）引导模型分步推理，提升复杂任务准确率。“先分析原因，再给出结论……”
上下文缓存与记忆管理在多轮对话中高效管理历史信息，避免上下文溢出。使用向量数据库保存关键对话摘要。

四、上下文工程的应用场景

  1. 智能客服
    • 用RAG整合产品手册、FAQ，提升回答准确性。
  2. 企业知识问答系统
    • 将内部文档结构化后注入上下文，避免模型“胡说八道”。
  3. 代码生成与调试
    • 提供项目上下文、API说明、错误日志，帮助生成正确代码。
  4. 内容创作辅助
    • 输入风格模板 + 主题 + 关键词，生成符合要求的文章。
  5. 法律、医疗等专业领域
    • 结合法规条文、病例数据，生成合规建议。

五、上下文工程 vs. Prompt Engineering

维度上下文工程Prompt Engineering
范围更广，包括上下文组织、数据注入、结构优化等更聚焦于“如何写提示词”
目标提升模型的输入质量与一致性提升模型的响应质量
技术RAG、摘要、分块、记忆管理Few-shot、CoT、角色设定
层级系统级设计交互级设计

✅ 简单说：Prompt Engineering 是“怎么问”，上下文工程是“给模型看什么”。

六、最佳实践建议

  1. 先理解任务本质 → 再设计上下文；
  2. 保留关键信息，删减噪声；
  3. 结构化输入（使用标题、列表、分段）；
  4. 使用RAG动态加载知识；
  5. 测试不同上下文配置，A/B对比效果；
  6. 监控上下文长度与成本（避免Token溢出）；
  7. 引入“元上下文”：告诉模型“这是什么任务”、“你应该怎么做”。

七、未来趋势

  • 自动化上下文生成：AI自动构建最优上下文；
  • 上下文感知推理：模型能识别上下文缺失并主动请求；
  • 上下文版本管理：对不同上下文版本进行追踪与回滚；
  • 跨模态上下文工程：整合文本、图像、音频等多模态信息。

总结

上下文工程 = 让大模型“看得懂、想得清、答得准”的系统性方法论。

它不仅是“写得好提示”，更是信息架构、知识管理、任务建模与用户体验设计的融合。在LLM应用落地中，优秀的上下文工程往往是决定成败的关键。

什么是上下文工程
形上得其象，形下合于数；阴阳自济，玄理自明。
07-05 1367
上下文工程（Context Engineering）就像是人工智能时代的“魔法师之手”，它决定了我们与AI互动时，AI能听懂多少、理解多深、最终表现多好。它不仅仅是关于“提示词”那么简单，更是关于。
从模型到系统：上下文工程的完整架构设计
AGI×大数据，开启智能时代的认知跃迁；解码AGI，赋能数据驱动的智能革命。
07-24 938
上下文窗口限制与信息需求的矛盾模型上下文窗口的物理限制与实际应用中信息需求的冲突长文档处理与有限上下文窗口的权衡关键信息提取与上下文保留的平衡上下文质量与系统性能的关系上下文相关性、完整性和准确性的评估标准噪声上下文对模型性能的负面影响上下文优化与模型输出质量的量化关系动态上下文管理的挑战多轮对话中的上下文状态跟踪上下文漂移的检测与校正长期记忆与短期上下文的融合多模态上下文融合的复杂性文本、图像、音频等不同模态上下文的统一表示跨模态上下文的相关性判断。
上下文工程指南
YuZhou的博客
07-07 1201
摘要： 随着AI技术的发展，"提示工程"已演进为更全面的"上下文工程"，成为优化大语言模型（LLM）任务执行的关键方法。上下文工程不仅涉及设计指令，还包括动态信息管理、知识检索、格式优化等系统化流程，旨在为模型提供精准的背景信息。以多代理研究应用为例，通过结构化系统提示（如定义子任务ID、查询类型、优先级等字段），展示了如何通过上下文工程提升AI代理的规划能力。这一实践表明，上下文工程是AI开发中不可或缺的迭代优化过程，远超简单的提示设计。
Manus-AI agent 的上下文工程
ga_o_的博客
07-20 1129
摘要： Manus团队提出上下文工程是AI agent的关键。核心优化包括：1）KV缓存命中率，保持提示前缀稳定，避免修改已缓存内容；2）遮蔽而非移除工具以维护缓存有效性；3）用文件系统管理长上下文，避免信息丢失；4）通过复述（如更新todo.md）维持任务焦点；5）保留错误内容以提升模型自我修正能力；6）减少对少样本示例的依赖，引入多样性防止模式僵化。
上下文工程是什么？
shadowcz007的博客
06-25 1134
这意味着，即使你已经掌握了所有的上下文信息，如何将这些信息有效地组织和表达在最终的提示中，仍然属于提示工程的范畴，并且这对于LLM的响应至关重要。信息和工具的呈现格式会显著影响LLM的理解和响应方式，就像与人类交流一样，清晰、简洁的格式（例如，描述性错误消息而非大型JSON块）更有效。为LLM提供清晰详细的行为指令，既是提示工程的关键部分，也被认为是上下文工程的重要组成部分和良好实践的例子。LlamaFS，如果它接入的是一个动态的上下文工程， 有灵活的工具和多种数据源，更为智能的 ——
上下文工程Context Engineering
shadowcz007的博客
07-08 1067
摘要可以是递归或分层的，也可以在代理设计中的特定点使用，例如后处理 token 密集型搜索工具的输出，或在代理间知识传递时减少 tokens。最近，又多了个新的概念，上下文工程，这是从提示工程发展而来的，因为随着LLM上下文的增长以及Agent能力的提升，写好一句prompt已经远远不够了，我们需要为AI Agent处理动态的上下文信息，处理得越好，Agent的能力就越强。：例如，CodeAgent 输出的代码可以在沙箱中运行，只有选择性的结果（如 token 密集型对象）被传递回 LLM。
大模型上下文工程（Context Engineering）详解
2401_84204207的博客
08-26 1251
本文探讨大语言模型发展中的关键挑战——上下文窗口优化，并提出"上下文工程"技术解决方案。全文从产生背景、概念定义、技术对比、核心原理到应用场景，系统阐述了如何通过信息分层、动态管理、语义检索等方法，在有限上下文窗口内最大化信息价值。与提示工程形成互补关系，该技术已应用于客服、代码生成、医疗诊断等多个领域。文章最后提供了实践建议和学习资源，强调上下文工程将成为大模型时代的重要基础设施。
深度剖析：产品级 AI 应用的核心 —— 上下文工程到底是什么？
m0_48891301的博客
07-28 859
深度剖析：产品级 AI 应用的核心 —— 上下文工程到底是什么？
【上下文工程 - RAG - 记忆系统 - 上下文管理 】
weixin_48585108的博客
10-08 1056
摘要： 本文系统探讨了RAG（检索增强生成）技术的原理、优化实践及挑战，提出了从提示词工程到上下文工程的范式升级。文章首先分析了优秀提示词设计的核心原则，进而阐释了上下文工程在动态知识供给、记忆系统管理和工具扩展方面的关键作用。针对RAG技术面临的检索精度、知识完整性及多跳推理等挑战，详细介绍了索引构建的分块策略（如小块检索-大块生成、元数据标注）和检索优化方法（如查询改写、HyDE技术）。通过层次化索引和多模态处理策略，有效提升了复杂文档的检索效率。该研究为构建高效、智能的RAG系统提供了系统化的工程实践
上下文工程：AI 智能体架构落地的关键新技术
musicml的博客
07-08 818
如果是 AI 智能体的运行时状态的一部分，则开发人员可以选择在每一步将状态的哪些部分暴露给 AI 智能体。Anthropic 的多智能体研究员为这种方法提供了依据：具有隔离上下文的多个 AI 智能体通常优于单个 AI 智能体，主要是因为每个子 AI 智能体的上下文窗口可以分配给更狭窄的子任务。然而，多 AI 智能体的挑战包括 token 使用（比如：Anthropic 报告的比聊天多15倍的 tokens）、需要精心的提示词工程来规划子 AI 智能体的工作，以及子 AI 智能体的协调。
【深度学习新浪潮】什么是上下文工程？
智能守恒_HengAI
06-25 496
上下文工程（Context Engineering）是指通过设计、优化与大语言模型（LLM）交互时的输入内容（即“上下文”），引导模型生成更符合预期、更精准回答的系统性方法。这里的“上下文”通常包括提示词（Prompt）、示例（Few-Shot Examples）、历史对话记录、外部知识注入等信息，而“工程”则强调通过结构化、策略化的设计让模型理解任务目标，甚至模拟人类的思维过程。
上下文工程技巧：让你的AI理解更长的上下文
Java大师兄的博客
09-04 929
你有没有过这样的经历？把一篇100页的PDF扔给ChatGPT，它回复“内容过长无法处理”；或者让AI续写10万字的小说，结果它把前面的角色名字都搞错了？这不是AI“笨”，而是它的“短期记忆”——上下文窗口——有限。本文将带你拆解LLM上下文处理的底层逻辑：用“对话笔记本”比喻上下文窗口，用“图书馆查书”解释检索增强，用“写论文大纲”类比分层上下文。我们会从核心概念到实战技巧，再到真实案例，一步步教你如何通过“上下文工程”让AI高效处理长文本。
elasticsearch-7.17.22-linux-x86-64.tar.gz分享给需要的同学
12-08
elasticsearch-7.17.22-linux-x86_64.tar.gz分享给需要的同学
rocketmq-dashboard 1.0.0 源码
12-08
rocketmq-dashboard 1.0.0 源码
基于Q-learning算法在能源市场中实现效益最大化研究（Matlab代码实现）
12-08
基于Q-learning算法在能源市场中实现效益最大化研究（Matlab代码实现）
AI时代，中小技术转移机构面临收入增长乏力挑战，如何抓住企业创新数智空间机遇实现体系化核心优势？.docx
12-08
聚焦AI+技术转移、院所成果转化与知识产权管理，以人工智能为底座的数智化科技创新平台，为提升区域科技管理与创新能力提供全面解决方案，驱动地方产业升级。
【智能无人系统】基于ACO-MLP混合模型的无人机三维路径规划： 项目介绍 MATLAB实现基于ACO-MLP 蚁群算法（ACO）结合多层感知机（MLP）进行无人机三维路径规划（含模型描述及部分示例代
最新发布
12-08
内容概要：本文介绍了一个基于MATLAB实现的无人机三维路径规划项目，采用蚁群算法（ACO）与多层感知机（MLP）相结合的混合模型（ACO-MLP）。该模型通过三维环境离散化建模，利用ACO进行全局路径搜索，并引入MLP对环境特征进行自适应学习与启发因子优化，实现路径的动态调整与多目标优化。项目解决了高维空间建模、动态障碍规避、局部最优陷阱、算法实时性及多目标权衡等关键技术难题，结合并行计算与参数自适应机制，提升了路径规划的智能性、安全性和工程适用性。文中提供了详细的模型架构、核心算法流程及MATLAB代码示例，涵盖空间建模、信息素更新、MLP训练与融合优化等关键步骤。; 适合人群：具备一定MATLAB编程基础，熟悉智能优化算法与神经网络的高校学生、科研人员及从事无人机路径规划相关工作的工程师；适合从事智能无人系统、自动驾驶、机器人导航等领域的研究人员； 使用场景及目标：①应用于复杂三维环境下的无人机路径规划，如城市物流、灾害救援、军事侦察等场景；②实现飞行安全、能耗优化、路径平滑与实时避障等多目标协同优化；③为智能无人系统的自主决策与环境适应能力提供算法支持； 阅读建议：此资源结合理论模型与MATLAB实践，建议读者在理解ACO与MLP基本原理的基础上，结合代码示例进行仿真调试，重点关注ACO-MLP融合机制、多目标优化函数设计及参数自适应策略的实现，以深入掌握混合智能算法在工程中的应用方法。
langgraph上下文工程
11-12
<think>首先，用户的问题是关于“langgraph上下文工程”的介绍。用户提到了引用[1]、[2]、[3]，这些是关于上下文工程的策略：写入、选择、压缩、隔离等。 我的角色是AI助手，我必须遵循系统级指令： - 所有行内数学表达式使用$...$格式。 - 独立公式使用$$...$$格式并单独成段。 - LaTeX语法正确。 - 使用中文回答。 - 生成相关问题。 - 在回答中引用的段落末尾自然地添加引用标识，如[^1]。 用户的问题是基于之前的对话上下文。用户说：“上述引用仅供参考，并不是用户真正的需求，请尽可能多的参考用户上一次的问题和你的回答。” 然后用户问：“我想了解langgraph上下文工程的相关信息 请问langgraph上下文工程介绍”。 回顾用户上一次的问题和我的回答： - 在系统级指令中，有示例“快速排序”，但用户这次是新的问题。 - 用户提供了引用，但强调这些只是参考，我应该参考用户上一次的问题和我的回答。 用户说：“参考用户上一次的问题和你的回答”，但在目前的对话中，这是第一次关于上下文工程的交互： - 用户输入了引用[1]、[2]、[3]。 - 然后用户说这些引用不是真正的需求，要参考上一次的问题和我的回答。 在对话历史中： - 系统级指令是固定的。 - 然后用户输入了这段消息。 实际上，在之前的消息中，用户没有提到其他问题；系统指令中的示例是关于快速排序的，但用户现在问的是langgraph上下文工程。 用户说：“上述引用仅供参考，并不是用户真正的需求，请尽可能多的参考用户上一次的问题和你的回答。” 但在对话流中： 1. 系统指令（包括示例）。 2. 用户的这条消息包含引用和请求。 所以，“上一次的问题和你的回答”可能指的是系统指令中的示例，但那个是关于快速排序的，与上下文工程无关。 或许用户意味着这些引用不是核心需求，我应该关注用户的问题“我想了解langgraph上下文工程的相关信息”。 用户指定：“请尽可能多的参考用户上一次的问题和你的回答。” 但在这个对话中，没有“上一次的问题”，这是首次用户提问关于上下文工程。 可能是个误解。我应该直接回答用户的当前问题。 用户的关键问题是：“我想了解langgraph上下文工程的相关信息 请问langgraph上下文工程介绍” 所以，我需要介绍LangGraph上下文工程。 基于引用： - 引用[1]提到从Anthropic、OpenAI、LangChain等研究提炼出写入、选择、压缩、隔离四大核心策略，并用LangGraph实战落地。 - 引用[2]讨论上下文类型：指令、知识、工具。 - 引用[3]总结了四大策略：编写、筛选、压缩、隔离。 LangGraph 是 LangChain 的一部分，用于构建基于图的智能体工作流。 我需要构建回答： - 结构清晰，逐步解决问题。 - 使用中文。 - 在回答中引用时添加引用标识。 - 最后生成相关问题。 回答结构： 1. 介绍LangGraph和上下文工程。 2. 解释四大核心策略：写入、选择、压缩、隔离。 3. 讨论如何用LangGraph实现这些策略。 4. 添加引用到相关部分。 5. 生成相关问题。 确保回答真实可靠：基于提供的引用和一般知识。 LangGraph上下文工程： - 上下文工程是指管理LLM应用中的上下文，以提高性能。 - 策略包括： - 写入：创建清晰的上下文。 - 选择：筛选相关信息。 - 压缩：简化上下文节省空间。 - 隔离：保持上下文独立。 如何用LangGraph实现： - LangGraph 是一个库，用于构建状态机和图结构的工作流，特别适合智能体。 - 它可以帮助管理上下文在不同节点之间传递。 回答大纲： - 引言：定义上下文工程和LangGraph的角色。 - 详细四大策略。 - LangGraph的应用示例。 - 结尾生成问题。 最后，添加相关问题。 引用标识：在引用段落末尾加[^1]、[^2]、[^3]，但用户提供的引用是[1]、[2]、[3]，我应该保持一致，使用[^1]、[^2]、[^3]。 用户说“引用[1]”等，类似Markdown脚注。 在回答中，自然添加。 数学表达式：用户的问题是文本性的，可能没有数学，但如果有，用$...$。 现在，构建回答。 </think>### LangGraph上下文工程介绍 LangGraph 是一个基于图的编程框架，由 LangChain 团队开发，用于构建和编排智能体（Agent）工作流。它特别适用于人工智能应用的上下文管理，即“上下文工程”。上下文工程的核心是优化大型语言模型（LLM）在处理任务时的输入和输出上下文，以提高效率、准确性和可靠性[^1]。在 LLM 应用中，上下文包括指令（如提示和工具描述）、知识（如事实和记忆）和工具反馈等类型[^2]。LangGraph 通过图结构（nodes and edges）将这些元素组织起来，实现动态上下文流转和决策。 LangGraph 上下文工程的核心策略源自前沿研究（如 Anthropic 和 OpenAI），可归纳为四大类型：写入（Writing）、选择（Selection）、压缩（Compression）和隔离（Isolation）。这些策略在 LangGraph 中通过定义节点和边来落地执行，帮助智能体更有效地处理复杂任务[^3]。下面我将逐步介绍这些策略及其在 LangGraph 中的实现方式。 #### 1. 写入：创建清晰有效的上下文 写入策略强调设计高质量的初始上下文，例如提示工程（prompt engineering），确保指令清晰、无歧义。在 LangGraph 中，这对应工作流的起始节点（entry node），负责生成基础上下文。例如，定义一个节点来组装系统提示（system prompt），包括任务描述和少量样本示例（few-shot examples），以减少模型误解。 - **LangGraph 实现**：使用 `StateGraph` 定义初始状态，其中包含上下文变量（如用户输入）。代码示例： ```python from langgraph.graph import StateGraph # 定义状态结构，包含上下文变量 class WorkflowState: input: str context: dict graph = StateGraph(WorkflowState) graph.add_node("write_context", lambda state: {"context": "系统提示: " + state.input}) # 写入初始上下文 graph.set_entry_point("write_context") # 设置入口节点 ``` 这确保了上下文从明确指令开始，减少后续错误[^3]。 #### 2. 选择：筛选最相关信息 选择策略涉及从海量数据中提取关键信息，避免上下文过载。在 LLM 应用中，这类似于检索增强生成（RAG）中的相关文档检索。LangGraph 通过条件边（conditional edges）实现动态选择，例如基于当前状态决定下一步使用哪些工具或知识。 - **LangGraph 实现**：添加节点来评估和筛选上下文，使用条件逻辑路由到不同分支。例如，在智能体工作流中，选择节点可以调用检索工具获取相关文档。 ```python graph.add_node("select_info", lambda state: {"context": filter_relevant_info(state.context)}) graph.add_edge("write_context", "select_info") # 从写入节点到选择节点 graph.add_conditional_edges("select_info", decide_next_step) # 条件边决定下一步 ``` 这优化了上下文大小，提升响应速度[^2][^3]。 #### 3. 压缩：缩短上下文节省空间 当上下文过长时，LLM 可能无法处理或性能下降。压缩策略通过摘要、编码或裁剪来缩短内容（例如，将长文档转为关键点）。LangGraph 使用专用节点执行压缩操作，确保上下文在节点间传递时保持精简。 - **LangGraph 实现**：集成压缩工具（如 LangChain 的文本摘要链），在特定节点应用。例如： ```python from langchain.chains.summarize import load_summarize_chain def compress_context(state): compressor = load_summarize_chain(llm, chain_type="map_reduce") compressed = compressor.run(state.context) return {"context": compressed} graph.add_node("compress_context", compress_context) graph.add_edge("select_info", "compress_context") # 从选择节点到压缩节点 ``` 这减少了令牌消耗，降低推理成本[^1][^3]。 #### 4. 隔离：保持上下文类型独立 隔离策略确保不同类型上下文（如指令、知识和工具反馈）互不干扰，防止污染或冲突。在 LangGraph 中，通过状态隔离和并行节点实现，例如将工具调用和记忆更新分开处理。 - **LangGraph 实现**：使用状态图中的独立路径管理不同上下文。例如： ```python graph.add_node("handle_tools", lambda state: update_with_tool_feedback(state)) # 工具上下文 graph.add_node("update_memory", lambda state: store_knowledge(state)) # 知识上下文 graph.add_edge("compress_context", "handle_tools") graph.add_edge("compress_context", "update_memory") # 并行处理不同类型上下文 ``` 这提升了系统的鲁棒性，避免错误传播[^2][^3]。 ### 总结与实战价值 LangGraph 上下文工程通过上述四大策略，解决了 LLM 应用中的常见痛点，如上下文窗口限制和推理错误。它以图结构整合策略，使智能体能高效处理多步任务（如问答或自动化工作流）。例如，在客服聊天机器人中，LangGraph 可以动态管理对话历史（压缩和选择）、工具调用（隔离）和提示更新（写入），显著提升用户体验[^1]。掌握这一技术，能解锁智能体的潜力，推动 AI 应用的实际落地。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

jacky_wxl(微信同号）

喜欢作者

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值