
Anthropic戳破百万上下文神话,给出上下文管理方法与用量可见性功能
近日,Anthropic在一篇关于「如何管理百万上下文」的博客中再次提及「上下文腐烂」问题,即上下文越长,模型越蠢。Anthropic解释,上下文窗口指模型生成下一条回复时能「看到」的全部内容,包括系统提示、对话内容、工具调用及其输出、已读取文件等。目前,Claude Code的上下文窗口为一百万个token,但上下文并非越长越好。
当模型注意力分散到更多token上,不相关内容会干扰当前任务,导致表现下降,这就是「上下文腐烂」。该概念出自Anthropic官方博客,早在今年2月Sonnet 4.6发布时,公告就写明其提供了测试版百万token上下文窗口,但百万Token并不等于百万有效Token。
Anthropic给出的上下文管理方法
Anthropic在博客中给出一套完整的上下文管理方法:
- Continue:在同一会话中发送另一条消息,直接继续聊,适用于上下文还相关的情况。
- /rewind:连按两下Esc,跳回之前某条消息重新开始。与其纠正,回退通常是更佳的修正方式,可避免失败尝试的中间过程污染后续判断。
- /clear:开启一个新会话,附带简要说明之前做了什么、现在要干什么、哪些文件相关。好处是零腐烂,上下文完全由自己控制,但需要自己写背景信息。
- /compact:让模型总结当前对话,用摘要替换原来的历史记录。省事但可能有损,可附上引导指令让模型知道什么该留什么该扔。
- Subagents:把一块工作交给拥有独立上下文的子智能体,干完活只把结论带回来。适用于任务会产生大量中间输出,但只需要最终结论的情况,可避免主会话被噪声污染。
自动压缩可能翻车及应对办法
此外,Anthropic还提到自动压缩(compaction)可能会翻车,当模型无法预测接下来要干什么时,自动压缩可能会丢掉关键信息。好在百万Token窗口有缓冲区,可提前主动/compact并附上说明。
/usage新命令让开发者看见消耗
除了管理上下文质量,Anthropic还推出/usage新命令,其作用是「显示套餐使用上限和速率限制状态」,让开发者看见自己的消耗。这表明Anthropic意识到,百万上下文时代,「用得起」和「用得好」是必须同时解决的问题。
上下文工程成AI编程时代必修课
今年2月,Anthropic发布Sonnet 4.6,确认了100万token上下文窗口(beta),解决了「能不能」的问题;4月15日的博客则解决了「怎么用」的问题。Prompt engineering之后,context engineering(上下文工程)正在成为AI编程时代的必修课。
1088



被折叠的 条评论
为什么被折叠?



