博客 | 首席技术官办公室

环境就是新的边界: 用可编程应用交付管理 AI 代理

Lori MacVittie 缩略图
洛里·麦克维蒂
发布日期:2025年7月22日

在 AIOps 领域流传着一个长期且危险的误解: “MCP 仅仅是另一个 API。”

当然。 SOAP 其实就是自以为了不起的 XML。

基于代理的架构,尤其是建立在模型上下文协议(MCP)上的架构,依赖于在每个请求中传递的明确上下文块。 这不是神经直觉或“LLM记忆”。 它是序列化、结构化且可操作的上下文——想象成JSON,而不是模糊的感觉——随每次调用传递,帮助代理跟踪目标、角色、策略和工作流状态。

但事实是:环境在不断变化。 当环境变化时,您的代理不仅会变得困惑。 它们还会自信地出错、行动不可预测,甚至存在严重风险。

问题是,那些已经在尝试和部署 AI 代理的人已经领先于趋势。 他们确实如此。 我们最新的研究显示,9% 的人已将 AI 代理投入生产,29% 有了明确的推进计划,还有 50% 正处于“初期阶段”摸索中。 只有 11% 甚至还没开始考虑 AI 代理。

他们的行动速度很快。 比行业整体更快。

没有真正有效的合规工具,也缺乏安全保障和最佳实践。 几乎没有成熟的解决方案能应对新技术带来的安全风险。

除了可编程以外。 是的,这正是您的应用交付和安全平台大显身手的地方。 它不仅仅是通道,而是能够编程的认知卫生和环境管理守护者。

上下文是如何传递的

上下文绝非抽象存在。 它直接体现在负载中。 真实的 MCP 请求示例如下:

POST /agent/v1/invoke HTTP/1.1

主机名:agentmesh.internal

授权: Bearer xyz123

Content-Type: application/json

X-MCP版本: 1.0

{

"上下文": {

    "user": { ... },

    "目标": "…",

    "prior_messages":[ ... ],

    "task_state": { ... },

    "安全": { ... }

  },

"input": { "prompt": "现在用一张简洁图表来直观展示它。" }

 }

此上下文块不可或缺。 它是代理的工作记忆。 它包含代理“掌握”的所有信息及其将依据的所有假设。 每一次跳转都会将其携带向前:未压缩,有时未经验证,而且几乎每次都会变得越发陈旧。

情境变化的原因及其重要性

正是这些累赘最终引发了上下文漂移。 上下文漂移发生在以下情况:

  • 用户离开后,旧的目标和任务状态依然保留。
  • 之前的信息累积过多,让请求变得臃肿并误导代理。
  • 安全标签出现在不该存在的地方。
  • 多个代理同时更新同一个线程,却没有清理冗余内容。

当代理#4拿到接力棒时,它根据过时的指令、陈旧的访问权限和无人关心的“目标”做决定。 代理不会抱怨。 它们自信地保持错觉,然后把混乱继续传给下一个。

可编程能力: 你真正需要的上下文管理器

如果你还把应用交付平台仅仅看作负载均衡器,祝贺你。 你还在下跳棋,而其他人已经开始下象棋了。

在代理架构中,只有可编程应用交付层具备以下特点:

  • 全面掌握每个请求
  • 您有权检查、转换、阻止或清理上下文
  • 不依赖任何单一代理的观点或记忆

边缘的上下文截断

别让代理每次请求都背负整个人类历史。

  • prior_messages精简为最近的 N 次交流。
  • 自动根据时间或状态变更使目标失效。
  • 当意图从继续切换到新任务时,清除task_state

现在,您在代理处理输入前就已严格控制内存使用和认知管理。

分类与策略实施

如果您的上下文块显示security.classification = confidential,而您即将调用公共摘要 API,那您需要在边缘部署一套可编程策略执法,来屏蔽、编辑或隐藏敏感字段,并在每个请求上校验访问权限。 大型语言模型(LLM)不会质疑您的策略;它们只会泄露信息。

意图漂移检测

用户是否从“总结季度指标”转向“制作幻灯片”? 上下文需要重新置零,而非简单累计。 当请求意图发生变化,但上下文仍包含过时的目标和任务状态时,就要清除上下文并重新开始。 这样能避免代理用今天的数据解决昨天的问题。

遥测与偏差监控

您的应用交付层应当持续监控:

  • 上下文块的标记大小随时间变化
  • prior_messages增长率
  • 每个代理的目标与任务不匹配模式

你能在上下文膨胀和偏离爆发前及时识别它们。 当领导质问你的“自主代理”为何像自负的实习生时,监控能帮你给出确切答案。

您需要的是上下文管理器,而不仅仅是防火墙

大型语言模型会无差别地吸收你提供的所有上下文,如果不加以控制,会导致混乱。 代理不会提醒你上下文偏离、目标陈旧或任务记录变得无效。 你必须让可编程交付层承担这个责任,并做到位。

它是最后一个保持中立、全局掌控并执行策略的层级。

在智能代理时代,您的应用交付平台不仅仅是流量路由。 它是您的语义防火墙、合规守卫,更是防止代理拥有根权限而自大撒谎的最后一道防线。

因为一旦让漂移和膨胀占上风,你就失去主动权。 你不仅需要掌控,还要信任整个 AI 体系。