
Context Engineering:AI Agent 的下一道产品门槛
这期简报把「上下文工程」翻译成 PM 能执行的产品判断:它为什么比单纯换模型更关键,解决 Agent 从 Demo 到生产的哪些问题,以及需求、评测和人工兜底该怎么拆。
当 AI Agent 开始进入真实业务,PM 要盯的重点已经变了:不是再问「换一个更强模型会不会好一点」,而是问「每一次模型决策前,它到底看到了什么」。Anthropic 把这件事称为 context engineering,也就是为 Agent 挑选、组织和维护进入上下文窗口的信息;目标不是塞更多材料,而是让模型在当下这一步看到最小、最有用的一组信息。1
7 月 8 日,X 上几条技术讨论把同一个信号推到台前:Avi Chawla 把 Google Agents CLI 解读为「生产级 Agentic Engineering」的工具链,因为它把脚手架、评测、部署和企业注册串到一个生命周期里;Rishabh Makwana 在自己的深度研究 Agent 项目里强调「很多 Agent 失败不是模型差,而是上下文差」;Steve Jiang 则把瓶颈概括为工作流设计、工具集成、上下文管理和迭代优化。234
这项技术是什么
上下文工程可以先按一句产品语言理解:把「给模型什么信息」产品化。
过去的 prompt engineering 更像写好一段指令。Agent 时代的上下文更复杂,里面可能有系统指令、用户历史、知识库检索结果、工具定义、工具调用返回、文件内容、错误日志、进度记录和外部记忆。Haystack 的工程博客把这些来源逐项拆开,并提醒团队:Agent 每走一步都会把越来越多历史和工具结果带进下一次调用,成本、延迟和注意力噪声会一起上涨。5
所以这不是「把知识库接上去」那么简单。更准确的拆法是四件事:
一篇 2026 年 arXiv 论文进一步把上下文工程列成独立工程学科,提出上下文质量的五个标准:相关性、充分性、隔离性、经济性和来源可追溯。它的判断很直接:Agent 的行为由它可见的信息环境决定,谁控制上下文,谁就在很大程度上控制 Agent 的行为。6
它解决什么产品问题
对 PM 来说,上下文工程解决的是 AI 产品从 Demo 到生产之间最难啃的那段。
Demo 阶段,团队可以手动挑一个漂亮案例,把完整背景喂给模型。生产阶段,用户请求会很脏:信息缺失、历史很长、权限不同、工具返回有噪声、业务规则经常冲突。Pento 的工程文章把这个差距说得很清楚:一个能在董事会演示里惊艳的 Agent,和一个能在周二早上扛真实流量的系统,是两类问题。后者要同时处理成本、延迟、可审计性、故障隔离和组织协作。7
Nubank 的客服 Agent 论文给了一个更接近业务现场的样本。研究团队在 1 亿以上用户规模下做客服 Agent,框架包括结构化上下文工程、人工参与的 prompt 迭代、LLM judge 评估和线上验证;在卡片配送场景里,新 Agent 相比旧版本带来 AI 事务 NPS 提升 37 个百分点、自助解决率提升 29 个百分点。8
这组数字对 PM 的启发不是「客服都该上 Agent」,而是更具体:当业务流程有工具调用、用户状态、政策规则和人工兜底时,效果不只取决于模型回答是否像人。效果来自一整套上下文供给和评测闭环。
PM 怎么落地
第一步,把需求文档从「让 AI 帮用户完成 X」改成「AI 在每一步需要看到哪些证据,才能安全地做 X」。这会逼团队列出信息清单:用户当前状态、历史行为、可调用工具、业务规则、权限边界、失败兜底和必须引用的来源。缺一项,就不要把它藏在「模型自己理解」里。
第二步,把 Agent 场景拆成两类。路径稳定、规则明确的流程,优先做 workflow,也就是由产品和工程预先定义步骤,只在关键节点调用模型。路径不可预判、需要多轮探索的流程,才考虑真正的 Agent。Pento 的建议是:如果工程师能把决策树画在白板上,就先做 workflow;画不出来,再评估 Agent。7
第三步,给上下文设计验收指标。不要只看最终回答满意不满意。至少要分开看四组指标:检索命中率、工具调用正确率、上下文 token 成本、线上任务成功率。YouTube 上 LangChain 的相关科普视频把上下文工程拆成 write、select、compress、isolate 几类策略;这对 PM 很有用,因为它把「上下文」从一个抽象词拆成了可排期的功能模块。9
第四步,给人工兜底留足产品位置。Nubank 的客服论文明确把低置信度转人工、保留完整对话上下文作为系统架构的一部分。8 对国内大厂 PM 来说,这意味着 Agent 不是一个孤立入口,而是要嵌进已有客服、审核、运营或销售后台。转人工时如果上下文丢了,用户体验会立刻塌掉。
今天可以带走的判断
Context engineering 的价值,不在于给 AI 行业又造了一个新名词。它把 Agent 产品的责任边界拉回到产品和工程团队手里:哪些信息该出现,哪些信息不能出现,哪些动作要被限制,哪些失败要能复盘。
如果你正在评估一个 Agent 需求,可以先问三个问题:
- 这个场景里,模型每一步做判断所需的证据能否列出来?
- 上下文变长以后,成本、延迟和准确率有没有单独监控?
- Agent 做错时,团队能否从上下文、工具调用和评测记录里复盘原因?
三个问题答不上来,模型升级也只是把问题推迟。答得上来,才值得进入 Agent 化。
References
- 1Effective context engineering for AI agents
- 2Avi Chawla 的 X 讨论
- 3Rishabh Makwana 的 X 讨论
- 4Steve Jiang 的 X 讨论
- 5Context Engineering for Agentic Systems
- 6Context Engineering: From Prompts to Corporate Multi-Agent Architecture
- 7Shipping AI Agents to Production: A 2026 Context Engineering Recipe Book
- 8Building Customer Support AI Agents at 100M-User Scale
- 9Context Engineering for Agents
Related content
- Sign in to comment.
