【深度收藏】大模型上下文工程：从提示词到注意力管理的进阶指南

最新推荐文章于 2025-12-03 08:43:36 发布

原创最新推荐文章于 2025-12-03 08:43:36 发布 · 1k 阅读

29 ·

CC 4.0 BY-SA版权

文章标签：

#人工智能 #产品经理 #学习 #大模型 #语言模型 #ai #转行

你有没有过这样的体验？跟 AI 聊得久了，它突然 “失忆”—— 前面提过的关键信息没了下文，甚至答非所问；让它处理复杂任务，比如分析大数据库、写长代码，它越往后越混乱…… 其实不是 AI “不认真”，而是它的 “注意力” 有限。

在这里插入图片描述

一、上下文工程 vs 提示工程

首先，什么是上下文工程？

Anthropic给出的定义是：为LLM在推理过程中，策划和维护最优信息集合的一系列策略，简单说：

提示词工程：聚焦 “怎么说”（写好指令）；
上下文工程：聚焦 “给什么”（筛选、管理 AI 能用到的所有信息，包括指令、历史对话、工具数据、外部文件等）。

用一张对比图展示二者的区别：

左侧的提示工程，流程简单：系统提示+用户消息，直接生成回复

右侧的上下文工程，则是一个动态循环：模型需要从一个包含文档、工具、记忆文件、历史消息等庞大的“可能上下文池”中，通过一个“策划”环节，筛选出最优信息组合，填入有限的上下文窗口，然后才能进行思考、调用工具并生成下一步行动。这个“策划”过程，在Agent的每一次决策循环中都会发生，是上下文工程的核心。

二、为什么必须做上下文工程？

Anthropic 发现一个关键问题：Context Rot 上下文衰减。AI 的上下文里塞的信息越多，它能准确记住、利用的比例就越低。这背后有两个原因：

AI 的注意力预算有限：AI基于Transformer 架构”，每新增一个token，它要处理的关联关系会呈平方级增长，信息越多，精力越分散；
AI 更熟悉短任务：训练 AI 的数据里，短文本比长文本多，它处理长序列信息的经验本就少。

所以，上下文工程的核心不是给AI 越多信息越好，而是用最少的关键信息，让 AI 刚好能完成任务，把AI 的注意力用在刀刃上。

三、如何做好上下文工程？

1. 素材要精准精简

AI 的上下文窗口是有限资源，每加一条信息都要算性价比。比如写系统提示词要避开两个坑：

别写太复杂的硬逻辑：比如 “如果用户问 A 就答 1，问 B 就答 2，问 C……”，这样 AI 灵活度低，改起来还麻烦；
别写太模糊的空话：比如 “帮我处理一下这个需求”，AI 根本不知道要做什么。

2. 按需取信息，别提前塞满

以前用AI 习惯把所有资料提前喂给它，但这样既占空间，AI 还容易找不到重点。Anthropic 推荐Just-in-Time 即时检索：让 AI 像人一样，需要什么信息再去拿，比如：

Anthropic 使用Claude Code 分析大数据库时，不会加载所有数据，而是先写查询指令（比如 “查近 30 天的销售 Top10”），只把查询结果加载到上下文里；

如果需要看数据细节，再用 “head/tail” 命令看前 10 行、后 10 行，像查资料时，先看目录，再翻具体章节，不把整本书都放桌上。这种方式不仅省空间，还能让 AI 更专注，不用花精力分辨。

3. 处理长时任务三大策略

如果让 AI 做需要几小时甚至几天的长任务（比如迁移整个代码库、写一份深度研究报告），上下文窗口肯定不够用。Anthropic 给了 3 个实用方案：

① 上下文压缩

当对话接近上下文窗口极限时，需让模型对前期交互内容进行总结与压缩，随后以压缩摘要开启新的上下文窗口。

这一方式能以高保真度提炼关键信息，同时丢弃冗余内容。其中，最简单的压缩形式便是直接清理旧的工具调用及对应结果，仅留存决议性关键信息，类似会议记录整理中对无关交流片段的剔除逻辑。

② 结构化笔记

结构化笔记又称agentic memory 智能体记忆，是通过技术手段为 AI 搭建上下文窗口之外的 “外部记忆空间”，让 AI 定期将关键信息持久化存储至该内存中，在后续需要时再重新拉回上下文使用。例如：

Anthropic 展示的 Claude 玩《宝可梦》案例中，Agent 在未被明确提示的情况下，自主学会创建待办事项列表、绘制已探索区域地图、记录战斗策略；在项目处理场景中，AI 可生成 “NOTES.md” 文档，记录 “当日完成数据采集工作，次日计划开展数据可视化任务” 等进度与规划内容。借助这一方式，即便上下文窗口重置，AI 仍可通过读取自身笔记恢复任务进度，无缝衔接流程，确保长至数小时的任务持续推进。

③ 子智能体架构

相较于让单个 Agent 维护整个项目的状态，子智能体架构更侧重让专门的子智能体处理集中化任务。其核心是构建 “主 AI + 子 AI” 的分层协作模式：主智能体负责高层级的规划与协调，子智能体则深入执行技术工作或信息检索，且仅向主智能体返回精炼摘要。这种 “关注点分离” 的模式，在复杂任务中优势显著。以深度研究任务为例：

主 AI 的核心职责是 “制定研究框架，明确需涵盖行业数据查询、竞品分析、用户调研等模块”；子 AI1 专注于 “行业数据的检索与初步整理”，子 AI2 专注于 “竞品核心优势与不足的分析”，各子 AI 在自身上下文窗口内深耕细分任务后，将结果浓缩为精简报告提交至主 AI，由主 AI 完成最终整合，可避免主智能体陷入细节事务，大幅提升整体任务效率。