产品

F5 人工智能网关

为您的组织在任何地方部署具有可观察性、AI 安全性和成本控制的 AI应用。

AI应用的安全性和性能

检查任何环境中的入站和出站提示

F5 AI Gateway 使组织能够自信地在任何地方部署 AI应用。 轻松确保您的 AI 实施的安全性、可扩展性和可靠性。 AI Gateway 检查入站提示和出站响应，以防止意外结果或关键数据泄露。 可定制的 AI 交互观察、保护和管理有助于提高 AI应用的可用性并简化合规性。

最大程度提高可用性

路由流量并限制本地和第三方语言模型的速率，以提高性能、保持可用性并控制成本。

AI Gateway 保护并优化您的 AI 应用

AI网关图

Gateway 保护并优化您的 AI 应用

AI Gateway 建立在可移植的微服务架构上，使您能够在构建 AI应用的任何地方进行部署，为您提供不折不扣的可观察性、安全性和优化。 集成的OpenTelemetry支持提供了所有入站提示和出站答案的可见性，从而让您更好地控制并简化合规工作。

公有云

观察并保护托管在 Azure、AWS 和 Google Cloud Platform 上的 AI SLM 和 LLM应用工作负载。 与 NGINX One 集成。

现场

通过 NGINX One 和 BIG-IP 使用 ADC 服务监控并保护数据中心站点的 AI SLM 和 LLM应用工作负载。

私有云

通过 NGINX One 和 BIG-IP 使用 ADC 服务保护和观察托管在私有云或共置设施中的 AI SLM 和 LLM 应用工作负载。

核心功能

通过自动识别和补救入站提示和出站响应来检测和减轻 OWASP LLM Top 10 中列出的风险和合规性要求。

保护所有 AI 流量

检查 AI 应用的所有入站和出站流量

防止数据抓取

保护企业资产或客户 PII 数据

安全架构

身份验证、授权和基于角色的访问控制

操作灵活

连接并路由至 OpenAI、Anthropic、Ollama 等。

完全可见

将 OpenTelemetry 数据从 F5 AI Gateway 自动导出到 SIEM/SOAR应用以收集指标和跟踪

降低运营成本

语义缓存可卸载 SLM 和 LLM 中的重复任务，从而减少令牌消耗并改善用户体验

平台支持与集成

平台和云提供商支持

在领先的云平台上部署，以实现对 AI 应用程序的可扩展访问

支持大型语言模型

AI Gateway 支持领先的 AI 模型平台，确保应用交互的安全

可观察性

OpenTelemetry 支持可见性和报告

资源