AI Agent 上下文工程
定义
AI Agent 上下文工程是为 Agent 组织、选择、更新和压缩输入信息的工程实践。它关注模型在每次推理时看到什么、以何种顺序看到、哪些信息应保留或移除,以及如何在上下文窗口和调用成本有限的条件下维持任务连续性。
它不等同于编写提示词。提示词是上下文的一部分;上下文工程还包括上下文窗口的取舍、任务状态的组织、工具说明的注入、可检索知识的补充,以及对冗余信息的压缩。
在本文档中的语境
深入理解AI Agent 设计原理与工程实践 以“Agent = LLM + 上下文 + 工具”为主线介绍 AI Agent。该书将上下文工程列为核心章节,并把它置于 RAG 记忆和工具协议等主题之前,强调 Agent 的能力不仅取决于模型本身,也取决于是否向模型提供了恰当的任务信息。
来源概述称,第 2 章的上下文工程内容依次涵盖 KV Cache 优化、提示工程、Agent Skills 与上下文压缩,并配有 9 个项目。这一安排说明上下文工程既涉及模型调用效率,也涉及面向任务的信息编排。
关键组成
-
KV Cache 优化:关注在连续生成或多轮调用中复用已有计算结果,以降低重复处理上下文所带来的开销。
-
提示工程:通过系统指令、任务约束、示例和输出格式等内容,明确 Agent 的角色、目标和执行要求;但它只是上下文工程的一个环节。
-
Agent Skills:将可复用的工作方法、流程约束或专业操作说明封装为技能,使 Agent 在特定任务中获得稳定的执行指引,而不必每次从零组织全部说明。
-
上下文压缩:对历史对话、任务进度、检索结果或工具返回内容进行筛选、摘要或重组,保留后续决策所需信息,避免无关内容持续占用上下文窗口。
与任务执行的关系
上下文工程与 RAG 记忆相连:当模型当前上下文不足以完成任务时,RAG 或其他记忆机制可以补充可检索的信息;补充后的内容仍需要经过选择和组织,不能无差别地全部塞入提示。
它也与 AI Agent 工具协议 和工具调用相连。工具调用依赖清晰的工具说明、参数约束、已执行步骤和返回结果;这些任务状态若缺失、过时或过载,Agent 即使拥有工具也可能调用错误、重复调用或无法继续执行。
因此,在 Agent 执行过程中,上下文应服务于当前目标:既让模型理解任务、可用工具和已完成的步骤,也控制无关历史、重复结果和冗长说明的比例。
细节与边界
来源明确将上下文工程描述为“上下文窗口如何做工程取舍”,而非仅讨论如何写 prompt。可据此将其理解为信息供给与成本控制之间的平衡问题。
但现有来源仅概述了主题及配套项目数量,未提供 KV Cache、压缩策略或 Skills 的具体算法实现,也未给出效果指标、统一的上下文长度阈值或适用于所有 Agent 的最佳配置。因此,不能据此推导某一种提示模板、压缩方法或窗口配置必然最优。