很多人以为 Prompt 工程就是"把话说清楚"。但做 Agent 时你会发现:模型看到的信息太多、太杂、太旧,反而更笨。这就是上下文工程要解决的事——把有限的上下文窗口当成稀缺资源来分配。
一个实用的五区模型
有工程实践把上下文窗口划成五个功能区,按比例分配:
- 身份与约束(2–5%):角色定义、行为边界、输出格式。这里每个 Token 都是每次调用的固定开销,务必精简。
- 任务说明(5–10%):当前任务、成功标准、范围边界。尤其写清楚"不要做什么",能显著减少幻觉式的范围扩张。
- 检索知识(30–50%):RAG 结果、工具输出。这是波动最大的区域——塞太满模型会"忘掉"任务,塞太少它会靠编造来补。
- 工作记忆(20–40%):之前的推理步骤与中间结论。要激进压缩,只保留滚动的最近 N 步。
- 输出脚手架(5–10%):示例、格式模板。放在生成位置前,影响力最大。
四条立刻能用的策略
- 先算预算:在用户说话之前,如果你的窗口已占用超过 60%,先做减法。
- 压缩历史:滑动窗口摘要是投入产出比最高的改动。每 5–10 步压缩一次,不要用截断(会丢掉早期关键上下文)。好的压缩记录要回答三件事:尝试了什么、结果如何、得出什么结论。
- 过滤检索:RAG 结果要打分设阈值,别把召回的东西全倒进去。
- 动态注入工具:工具超过 10 个时,按步骤只给当前需要的子集。
一个反直觉的发现
系统提示词不是越长越可控。过度详细的规则会挤占推理空间,导致模型遇到没写到的新情况时表现更差,甚至在两个规则冲突时自相矛盾。原则很简单:系统提示词规定"是什么"和"不能做什么",具体操作流程放到工具文档或示例里。
如果你的 Agent 在演示里很好、上线就飘,先别换更大的模型——回头看看上下文,这通常是最快、最便宜、最持久的修复点。
小7分享网