关于Operations的博客文章
关于Operations的博客文章(18)
模型路由为何可能成为安全基础设施
智能体AI暴露了身份管理的局限。通过专用模型与基于策略的路由，将权限与模型选择绑定，从而缩小影响范围并降低治理复杂性。
作者：Lori Mac Vittie
AI应用交付十大问题：资源利用率低
AI会导致资源利用率大幅波动：请求成本会因提示词、上下文和推理过程而显著变化，因此仅按每秒请求数（RPS）进行路由会造成GPU负载热点、请求排队和延迟骤增。
作者：Lori Mac Vittie
AI应用交付十大要点：定制应用需求
AI让“定制化”从少数情况变为常态：请求会形成组合式调用链（模型选择、检索、策略和工具），因此交付必须针对每个请求进行调整，而不是按应用统一处理。
作者：Lori Mac Vittie
AI应用交付十大挑战：缺乏安全保障且不符合法规要求
AI将合规范围从保护传输路径和存储扩展到治理运行时行为，包括模型访问、检索上下文、输出和智能体操作，因此控制措施必须更贴近推理环节。
作者：Lori Mac Vittie
AI应用交付十大问题：交付策略不兼容
策略不一致会引发AI服务中断：不一致的故障转移、超时、限制和安全控制会导致软故障、结果不完整，以及不同端点产生不同结果。
作者：Lori Mac Vittie
AI应用交付十大挑战：无法应对延迟
AI使延迟不再只是性能问题，更关乎信任：缓慢的“助手”响应会让人感觉系统迟疑或出现故障，而大量使用令牌的提示词和输出即使在系统运行正常时也会增加工作负载。
作者：Lori Mac Vittie
您的下一位SRE可能是机器
控制正集中到意图入口，即提示词、令牌和路由。架构面临的挑战是明确AI可在何处执行操作、何时必须交由其他机制处理，以及如何撤销操作。
作者：Lori Mac Vittie
规模化发展AI的秘诀在于突破康威定律的制约
AI无法自行实现规模化。如果没有统一的控制平面来整合工具并打破权责边界，推理层将成为最脆弱、最依赖协调的层级。
作者：Lori Mac Vittie
推理现已成为运营重心
多模型运维和API驱动的自动化将控制能力下沉至推理时层，包括提示词、令牌与控制、路由和内容审核；成本、风险和性能都必须在这些层面进行管理。
作者：Lori Mac Vittie
混合多云面临的新挑战：缺少应用交付和安全平台，运营举步维艰
企业并未放弃本地部署，而是在推进其现代化。随着应用组合持续涵盖多种环境，应用交付和安全必须从依赖特定环境的功能转向统一平台。
作者：Lori Mac Vittie
压缩不再只关乎速度，更关乎思考的成本
在AI时代，压缩不仅能节省带宽，还能降低“思考”成本。了解提示词压缩、输出压缩和模型压缩如何帮助控制AI推理成本。
作者：Lori Mac Vittie
唯有可编程性，才能让控制能力在AI规模下持续发挥作用
了解为何数据平面和控制平面的可编程性对于扩展和保护AI驱动型系统至关重要，以及它们如何在快速变化的环境中确保实时控制。
作者：Lori Mac Vittie
借助F5 Distributed Cloud CE，在Equinix边缘终结多云混乱
借助Equinix和F5 Distributed Cloud CE简化多云安全。集中管理安全边界、降低成本，并通过边缘驱动的WAAP提升性能。
作者：Lori Mac Vittie
当复杂性成为阻碍：运维工作流无序扩张如何威胁性能与交付
了解运维工作流的复杂性如何威胁正常运行时间、韧性和交付，以及为何简化流程是现代应用基础设施的关键。
作者：Lori Mac Vittie
上下文成为新边界：通过可编程应用交付治理AI智能体
AI智能体在每次请求中都会携带上下文，但上下文偏移、膨胀和过时策略会影响可靠性。了解可编程交付如何实施认知卫生管理。
作者：Lori Mac Vittie
AI智能体推动决策向技术栈上层转移
AI智能体将决策过程融入请求，重新定义基础设施。了解如何通过策略优先、意图感知的系统，为运行时委托做好准备。
作者：Lori Mac Vittie
AI智能体与智能体式AI：了解二者的区别
了解AI智能体与智能体式AI之间的主要区别，以及这两种不同的自动化和智能实现方式如何塑造技术的未来。
作者：Lori Mac Vittie
F5 NGINX One如何帮助网络运维团队应对日益增加的复杂性
借助F5 NGINX One，帮助网络运维团队简化复杂网络、加快部署、增强安全性，并提升多云环境的可见性。
作者：Karthik Krishnaswamy