给 AI 喂的信息越多,它反而越不可靠?问题出在上下文管理

2026/08/14 15:21阅读量 2

Anthropic 提出,大模型的上下文窗口并非越长越好:随着上下文变长,模型准确调用已有信息的能力会下降,即“上下文腐化”。真正决定 Agent 任务成败的是模型每一步能看到的信息组合。通过遵循“最小充分上下文”、少规则多典型示例、渐进披露、压缩与结构化笔记等方法,可以让 AI 更稳定地完成任务。

Anthropic 的应用 AI 团队在《Effective context engineering for AI agents》中提出,当 AI 从单轮问答转向连续搜索、读文件、调用工具的 Agent 场景后,决定任务成败的不再只是“怎么提问”,而是“模型在每一步能看到什么”。这一思路被概括为 Context Engineering(上下文工程)。

核心观点

  • 提示词工程 ≠ 上下文工程:提示词工程关注指令的组织;上下文工程管理模型推理时可见的全部 token,包括系统指令、工具说明、外部检索数据、历史消息和 Agent 的中间结果。多步任务中,结果更多由当前可见上下文决定。
  • 上下文容量不等于可用能力:大模型存在“上下文腐化”现象。随着 token 增多,模型准确召回信息的能力会下降。注意力预算是有限的,加入的每条信息都在占用预算;真正的判断标准不是“有没有一点关系”,而是“是否值得占用注意力”。
  • 退化是隐蔽的:模型不会在某一个 token 后突然失效,它可能仍然表达流畅、自信,但事实召回和长距离推理精度已经下降。这会让长对话中的“看起来正常”极具迷惑性。

关键方法

  • 最小充分上下文:不是越短越好,也不是越多越安全。找到“少一条就可能影响判断、多十条却不会改善答案”的高信号信息组合。可以从最小版本起步,针对模型真实失败补充规则。
  • 少堆规则,多给典型例子:少量多样且典型的示例能同时传递结构、语气、判断标准和信息密度,通常比抽象规则更有效;过多边缘案例会稀释核心模式,应留给测试而不是全塞进 Prompt。
  • 渐进式披露:不要一次性把所有资料塞给模型,让它保留轻量引用、需要时再动态加载。Claude Code 面对大型代码库时就是通过路径、查询和 head/tail 等命令按需查看,而不是把全部文件放入上下文。
  • 压缩后重开对话:当对话越来越臃肿,把关键状态压缩成高保真摘要(已确认事实、已删除方案、未解决问题、硬性要求),带着摘要和新材料进入新窗口,往往比拖着全部历史更可靠。
  • 把记忆外置:长期任务可以维护结构化笔记或项目记忆,记录目标、决策、进度和关键事实,而不是依赖一个永远不清空的聊天窗口。Anthropic 用 Claude 玩《宝可梦》的实验展示了这一模式:上下文重置后,Agent 读取自己的笔记继续行动。

值得关注

对普通用户而言,这意味着 AI 使用能力的比拼正从“谁更会问”转向“谁更会组织信息”。熟练的 AI 用户不是拥有最长 Prompt 或塞给模型最多资料的人,而是知道当前任务需要哪些信息、哪些材料该暂放一边、何时该总结和重开的人。AI 的注意力同样有限,正确做法不是不断把世界塞进它的脑子,而是让它在每个当下只看到最值得看到的那部分信息。

准备好启动您的定制项目了吗?

现在咨询,即可获得免费的业务梳理与技术架构建议方案。