一、主要内容总结
本文是一篇关于大型语言模型(LLMs)上下文工程(Context Engineering)的综述,系统梳理了该领域的研究现状、核心技术和未来方向,主要内容包括:
-
上下文工程的定义与意义:指出LLMs的性能本质上由推理时提供的上下文信息决定,上下文工程超越了简单的提示设计,是对LLMs信息 payload(信息负载)进行系统优化的正式学科,旨在解决LLMs的固有局限(如上下文长度约束、幻觉问题等),提升性能、优化资源利用。
-
核心分类框架:提出了一个综合分类法,将上下文工程分为两大模块:
- 基础组件(Foundational Components):包括上下文检索与生成(Context Retrieval and Generation,如提示生成、外部知识获取)、上下文处理(Context Processing,如长序列处理、自优化、结构化信息整合)、上下文管理(Context Management,如记忆层次结构、压缩、优化)。
- 系统实现(System Implementations):包括检索增强生成(RAG,如模块化、智能体化、图增强架构)、记忆系统(Memory Systems,支持持续交互)、工具集成推理(Tool-Integrated Reasoning,用于函数调用和环境交互)、多智能体系统(Multi-Agent Systems,协调通信与编排)。
-
关

订阅专栏 解锁全文
1050

被折叠的 条评论
为什么被折叠?



