F5 人工智能网关

通过 F5 应用交付与安全平台实现集中控制,帮助您监控、保护并优化 AI 使用,同时有效管理成本,执行分布式和多 LLM 环境下的策略。

AI模型请求路由与数据安全

AI Gateway 采用可移植的微服务架构,助您在任何 Kubernetes 环境中顺利部署 AI 应用。

依托于F5应用交付与安全平台(ADSP),您可自信部署和管理AI应用,尽享F5 AI网关的强大支持。 为您的AI工作流提供卓越的安全性、可扩展性和精细控制。 F5实时监控并保护提示与响应,杜绝数据泄露,同时优化效果。 借助先进的可观测性、治理机制和灵活控制,助力企业规模化实施安全合规且高效的AI运营。

  • 公共云
    我们在由 Azure、AWS 和 Google Cloud Platform 等领先云提供商管理的可扩展环境中,安全监控并保护 SLM 和 LLM 应用工作负载,确保您在超大规模平台上的灵活性和部署便捷。
  • 本地部署
    优化直接托管于物理基础设施或数据中心的 SLM 和 LLM 应用工作负载的安全性与性能,助你最大化控制并确保符合组织政策。
  • 私有云
    提升私有云环境或托管机房中SLM和LLM工作负载的监控与防护,提供专属资源和定制化配置,确保安全性和操作的一致性。

AI模型请求路由与数据安全

为AI安全时代而生

请求路由与可观测性

F5 AI Gateway 通过基于情境的模型路由,提升路由和可观察性,优化响应速度,助你更高效地推进开发流程。 结合 OpenTelemetry,我们实现了完整的交易可视化,同时将日志导出至 SIEM 和 SOAR 工具,确保符合合规要求。 我们简化路由流程并提供实用见解,加快你的 AI 应用迭代,提升效率与扩展能力。

 

保护输入与输出安全

保护输入与输出安全

F5 AI Gateway 通过实时防护快速注入攻击和敏感数据泄露,保障您的 AI 交互安全。 您将受益于强有力的身份认证、授权及基于角色的访问控制(RBAC),确保合规与治理稳固。 安全的 mTLS 通信保护 AI 流量,同时动态更新护栏与处理器,灵活应对新兴威胁,提升安全性、可靠性和弹性。

可扩展的部署与运维

F5 AI Gateway 通过支持在任何基础设施上快速部署,简化了大规模部署和运营。 借助内置的流量管理平台和强大安全控制,它保障安全可扩展,以满足您不断变化的业务需求。 灵活集成 Kubernetes、先进的自动化工具,以及对主流 AI 模型的支持,优化性能、加快迭代,同时确保可靠性和合规,助您应对不断增长的 AI 需求。

数据泄露检测与防护

数据泄露检测和防护

F5 AI Gateway 通过实时监控提示和响应,有效检测及防止数据泄露,识别并降低诸如个人身份信息(PII)和受保护健康信息(PHI)等敏感数据的风险。我们严格执行记录、编辑或屏蔽内容的策略,确保您符合 OWASP 标准要求。 借助无缝集成的 SIEM 和 SOAR,您能迅速响应事件并推进审计流程,有效保护 AI 模型免于恶意或意外的数据泄露。

支撑您AI部署的关键支柱

AI网关图

AI Gateway 作为 AI 交付与安全解决方案的核心组件,提供 LLM 级的安全与可视化体验,并与 F5 ADSP 无缝集成。

LLM 安全对监控并保护前端应用、模型推理与下游服务之间的交互至关重要,确保您在整个 LLM 工作流中拥有可视性、安全的请求路由和稳健的运营能力。

探索 AI 解决方案

核心功能

监测、识别并降低 AI 应用相关风险,同时通过自动识别和纠正输入提示与输出响应,保障您的数据治理。

我们对所有进出 AI LLM 和 SLM 模型的流量进行检测,有效降低网络安全风险。

识别并保护客户的个人身份信息和企业敏感数据,防止数据泄露。

我们通过审计日志导出,严格执行身份验证、授权、基于角色的访问控制和凭证管理,帮助您确保合规。   

轻松连接并引导流量至 OpenAI、Anthropic、Ollama 及上游 HTTP 服务。

利用 Python SDK 按照您的组织需求定制流量检测策略。

自动将 OpenTelemetry 数据导出到 SIEM/SOAR 系统,实现指标和追踪的可视化监控。

我们根据来源、内容和环境,灵活分配请求至高成本或低成本模型。

我们根据成本或用例将 AI 提示精准路由到最佳模型,助您提升效率与扩展能力。

平台支持与集成

AI Gateway 与公共云平台、顶尖 AI 模型和可观测工具深度集成,助力您实现高效扩展的治理、安全保障和全面可视化。

支持公有云

在主流公共云平台上部署 AI Gateway,实现 AI 应用的弹性扩展访问。

AI 模型支持

AI Gateway 集成业内领先的 AI 模型平台和大型语言模型,保障应用安全交互,顺畅支持 SLM 和 LLM 服务。

观测集成

AI Gateway 利用 OpenTelemetry 提升可视性和合规水平,助您顺畅连接主流 SIEM 和 SOAR 工具,实现高效事件管理。

资源