上下文工程实战:把上下文窗口当成稀缺资源来分配

上下文工程实战:把上下文窗口当成稀缺资源来分配

很多人以为 Prompt 工程就是"把话说清楚"。但做 Agent 时你会发现:模型看到的信息太多、太杂、太旧,反而更笨。这就是上下文工程要解决的事——把有限的上下文窗口当成稀缺资源来分配。

一个实用的五区模型

有工程实践把上下文窗口划成五个功能区,按比例分配:

  • 身份与约束(2–5%):角色定义、行为边界、输出格式。这里每个 Token 都是每次调用的固定开销,务必精简。
  • 任务说明(5–10%):当前任务、成功标准、范围边界。尤其写清楚"不要做什么",能显著减少幻觉式的范围扩张。
  • 检索知识(30–50%):RAG 结果、工具输出。这是波动最大的区域——塞太满模型会"忘掉"任务,塞太少它会靠编造来补。
  • 工作记忆(20–40%):之前的推理步骤与中间结论。要激进压缩,只保留滚动的最近 N 步。
  • 输出脚手架(5–10%):示例、格式模板。放在生成位置前,影响力最大。

四条立刻能用的策略

  1. 先算预算:在用户说话之前,如果你的窗口已占用超过 60%,先做减法。
  2. 压缩历史:滑动窗口摘要是投入产出比最高的改动。每 5–10 步压缩一次,不要用截断(会丢掉早期关键上下文)。好的压缩记录要回答三件事:尝试了什么、结果如何、得出什么结论。
  3. 过滤检索:RAG 结果要打分设阈值,别把召回的东西全倒进去。
  4. 动态注入工具:工具超过 10 个时,按步骤只给当前需要的子集。

一个反直觉的发现

系统提示词不是越长越可控。过度详细的规则会挤占推理空间,导致模型遇到没写到的新情况时表现更差,甚至在两个规则冲突时自相矛盾。原则很简单:系统提示词规定"是什么"和"不能做什么",具体操作流程放到工具文档或示例里。

如果你的 Agent 在演示里很好、上线就飘,先别换更大的模型——回头看看上下文,这通常是最快、最便宜、最持久的修复点。

本文属于专题提示词工程8 篇全部专题 →
文中提到的术语上下文窗口提示词系统提示推理术语速查 →
未经允许不得转载:小7分享网 » 上下文工程实战:把上下文窗口当成稀缺资源来分配

评论 抢沙发

小7分享网 · 聚焦 AI 的实用博客

每天一篇,跟进 AI 行业动态、实测新工具、拆解实战教程。不堆术语,不炒概念,只写真正用得上的内容。

浏览全部文章关于本站

欢迎回来

登录 小7分享网,继续你的精彩

还没有账号?立即注册

忘记密码 ?

创建账号

注册后即可体验完整功能

已有账号?直接登录

我们将发送一封验证邮件至你的邮箱, 请正确填写以完成账号注册和激活