F5 AI Gateway：治理、保护和优化AI
全面治理每个模型、每个智能体和每项工具
F5 AI Gateway提供统一控制平面，用于保护、控制和优化每一次AI交互。它将模型网关、MCP网关和AI Guardrails整合到统一的控制平面和策略模型下，无需更改应用，即可将令牌支出降低30%–60%、实施防护策略，并以全面的可审计性管控智能体对工具的访问。
将AI支出降低30%至60%
通过智能路由、缓存和预算管控降低令牌成本，无需更改应用。
保护AI数据并证明合规性
实施防护措施，阻止提示词注入、隐去个人身份信息（PII），并证明合规性。
治理智能体并控制工具访问权限
通过中央注册表统一治理所有智能体和工具，并保留完整的审计跟踪记录。
简化AI运维并整合工具
消除工具蔓延：统一应用、API和AI的交付、安全与可观测性。
优势
降低AI支出
无需更改应用，即可将Token成本降低30%–60%
- 令牌计量和团队级预算可全面呈现成本，并按提供商、模型、团队和个人用户等各个维度进行精细归因，让管理层准确掌握AI支出去向，并可设置强制执行的支出限额。
- 语义缓存、智能路由和GPU感知路由可智能优化每个请求，确保请求以适当的成本和较低的延迟到达合适的模型。
- MCP网关可消除冗余的智能体工具调用，将令牌浪费减少多达90%。
保护AI交互安全
阻止威胁、隐去数据、证明合规
- 20多项防护策略对每个提示和响应实施保护，并从一开始就提供由专家构建的控制措施，防止个人身份信息（PII）泄露，同时满足《欧盟人工智能法案》要求以及PCI和受保护健康信息（PHI）合规要求。
- PII和PHI脱敏可防止敏感数据传输至第三方LLM
- 提示词注入和越狱防御采用故障关闭式强制执行机制，并由F5 Labs丰富的AI威胁库提供支持。该威胁库每月新增超过10,000种攻击模式，帮助防护能力持续应对新兴技术。
- 完整的审计跟踪记录，符合SOC 2、ISO和HIPAA要求，并支持导出至SIEM及数据驻留控制。
治理智能体和工具
每个智能体、MCP工具和服务器均经过授权和注册，并可审计
- MCP Server Registry提供集中式单一视图，涵盖整个环境中的所有MCP服务器，包括公共、远程和私有服务器，便于团队发现和管理可用工具。
- 按工具设置的允许/拒绝列表、访问控制和预算可确保只有获得授权的用户和智能体才能调用特定工具，并对每次调用实施支出限额。
- 完整的工具调用审计跟踪会记录每次调用及其完整上下文，支持快速开展合规审查和取证调查。
简化AI运维
统一控制平面，消除工具泛滥
- 通过统一的策略模型和控制台整合Model Gateway、MCP Gateway和AI Guardrails
- 在所有AI流中统一实施共享预算、审计、可观测性和RBAC
- 融合应用、API和AI的交付与安全，通过纵深防御分层部署负载均衡、API网关、AI Guardrails、WAF、Bot Defense和DDoS防护
核心功能
模型网关
路由、缓存并优化每个LLM请求
MCP Gateway
管控每一次智能体与工具之间的交互
AI资产注册表
注册和管理模型及MCP服务器
工具访问控制
RBAC、按工具访问控制、预算和配额
成本管理
令牌计量、预算和归因
监控与分析
仪表板、遥测、OTEL、SIEM导出
AI Guardrails
50 多项策略，采用故障关闭式强制执行
缓存
语义缓存和精确缓存，降低令牌成本
常见问题
AI Gateway是位于用户、智能体与AI服务之间的集中式控制平面，可为所有AI交互提供可观测性、治理和安全保障。借助AI Gateway，您可以管理AI模型的访问权限、实施安全策略，并确保组织内的AI使用情况可全面审计。
F5 AI Gateway全面呈现各团队的令牌消耗和模型支出，帮助您发现效率低下的问题并设置使用策略。它还可通过智能缓存重复查询，并根据每项任务将请求自动路由到更具成本效益的模型，从而降低成本，避免为简单交互支付过高费用。
F5 AI Gateway实时检查提示词和响应，检测并阻止源代码、凭据或客户信息等敏感数据，避免这些数据传输至外部AI模型。这有助于贵组织采用AI工具，同时降低意外数据泄露的风险。
是的，F5 AI Gateway不受供应商限制，可通过单一控制点将流量路由至多个AI提供商和模型。这样，团队便可灵活地为每项任务选择合适的模型，同时避免产生安全或治理缺口。
F5 AI Gateway为组织内的每次AI交互提供完整的审计跟踪，包括请求者、所用模型、交换的数据以及每次交互的成本。这有助于轻松监控采用情况、按团队或应用跟踪支出、落实合规要求并调查事件。
F5 AI Gateway采用高吞吐量、低延迟架构，确保即使在高负载下，安全检查、策略执行和路由决策也不会造成瓶颈。内置负载均衡、模型间故障转移和智能缓存等功能，有助于在AI使用量增长时保持性能和可靠性。