谁能把正确的上下文,以更低的成本给到模型,谁就能在同等模型能力下,做出更好的产品。
这不是什么新观点。一条笔记,标题是"AI 工程从提示到 harness engineering 的演化",里面写过一段话:驭控工程的核心,是把工具、记忆、权限、沙箱、会话日志、评测、观测、恢复、人类审查和多代理协作,组织成可控系统。
今天 Google ADK 的发布,某种意义上就是在做这件事的具体实现——
不是优化提示词,是设计 runtime 控制层。
这个趋势对实践的指导意义是什么?
对于正在做 AI 应用的团队,我的建议是:
不要把所有资源都押在模型选型和 prompt 优化上。
从今天开始,认真对待上下文治理这件事。
你的知识库结构、检索策略、session 管理、错误恢复机制——这些"infra 层面的工作",正在变成真正的产品竞争力。
用一个可能不太准确的类比:
这就像 2000 年代服务器端开发的发展轨迹。
早期大家拼的是什么?硬件性能。谁的服务器快,谁就有优势。
后来硬件性能提升到一定程度,优化瓶颈转移了。转移到数据库设计、缓存策略、异步架构。
再后来,云计算把这些基础设施层面的工作,进一步商品化。竞争优势变成了什么?变成了理解业务场景和数据模型。