F5推出AI Gateway,助力管理和保护激增的AI流量并满足应用需求

发布日期:2024年11月12日
联系人
  • 管理AI服务用户和提供商的安全,负责身份验证和零信任功能
  • 确定各团队、应用和API使用AI服务的优先级
  • 支持与OpenAI、云提供商、开源社区等提供的AI服务和模型进行集成式自动化


西雅图,F5(纳斯达克股票代码:FFIV)宣布开放抢先体验F5 AI Gateway,旨在简化应用、API与大语言模型(LLM)之间的交互,推动企业采用AI。这款功能强大的容器化解决方案可优化性能、可观测性和防护能力,从而降低成本。AI Gateway与F5产品组合集成,可显著提升数据输出质量和用户体验,帮助安全和运维团队顺畅采用AI服务。

根据F5的《AI应用战略现状报告》,75%的企业正在实施AI。与众多现代应用一样,AI服务主要通过API交付和使用。然而,企业在设计和扩展支持AI的应用及服务时,还面临许多其他挑战。例如,要实现高效运营,需要密切监控GPU计算成本、系统响应能力等日益重要的指标,同时关注新出现的监管合规问题。

F5首席创新官Kunal Anand表示:“LLM正在帮助客户提升生产力和用户体验,但也需要实施监督、在推理阶段进行深度检查,并防范新型威胁。通过满足这些新要求,并与F5值得信赖的API流量管理解决方案集成,我们帮助客户在威胁范围大幅扩大的环境中,更有信心、更高效地部署AI驱动的应用。”

实际应用中的AI解决方案需要优化整个数据生态系统中的请求、响应和提示词交互。F5 AI Gateway可观察、优化并保护大量用户变量和自动化变量,从而帮助降低成本、缓解恶意威胁并确保符合法规要求。

F5 AI Gateway旨在客户及其应用的AI之旅中,在理想阶段满足其需求。它可以部署在任何云或数据中心,并可与F5的NGINX和BIG-IP平台原生集成,从而在传统、多云或边缘部署中充分利用F5先进的应用安全和交付服务。此外,该解决方案具备开放的可扩展性,支持组织开发和定制由F5 AI Gateway实施的可编程安全措施和控制机制。这些流程可以轻松更新并动态应用,以便立即遵循安全策略和合规要求。

IDC AI与自动化高级总监Shari Lava表示:“未来几年,AI驱动的应用将成为几乎所有企业和组织的基石。F5在其应用服务体系中引入AI网关,让客户能够更灵活地构建AI应用架构,同时获得更强的保护和模型优化能力。”

F5 AI Gateway:

  • 通过自动检测和修复,应对OWASP《LLM应用十大风险》中识别出的风险,并实施安全与合规策略。
  • 通过语义缓存卸载LLM的重复任务,从而提升用户体验并降低运营成本。
  • 简化集成流程,让开发人员能够专注于构建AI驱动的应用,而不必管理复杂的基础设施。
  • 优化本地及第三方LLM的负载均衡、流量路由和速率限制,以保持服务可用性并提升性能。
  • 提供统一的API接口,开发人员可通过该接口访问所选的AI模型。

“F5 AI Gateway是我们AI战略不可或缺的一部分,”WorldTech IT首席技术官Austin Geraci表示。“借助这项技术,我们的客户能够开发面向内部和外部的AI应用,即使查询量激增,也不会降低网站和应用性能。F5提供先进的应用安全和交付能力,助力大规模加速AI体验。借助F5 AI Gateway,仅语义缓存和智能流量路由就能显著节省成本,而F5服务的整合将为客户节省数百小时的集成工作。”

相关资源

关于F5

F5是一家多云应用安全和交付公司,致力于打造更美好的数字世界。F5与全球众多大型先进组织合作,为每个应用提供安全保障,无论应用部署在本地、云端还是边缘。F5帮助企业持续领先于威胁,同时为客户提供卓越、安全的数字体验。有关更多信息,请访问f5.com。(纳斯达克股票代码:FFIV)

还可以在X上关注@F5,或访问F5的LinkedIn和Facebook主页,了解F5、其合作伙伴和相关技术。

F5、BIG-IP和NGINX是F5, Inc.在美国及其他国家/地区的商标、服务标志或商号。本文提及的所有其他产品和公司名称可能是其各自所有者的商标。

###

本新闻稿可能包含与未来事件或未来财务表现有关的前瞻性陈述,此类陈述涉及风险和不确定性。此类陈述通常可通过“可能”“将”“应当”“预期”“计划”“预计”“认为”“估计”“预测”“潜在”或“继续”等措辞、这些措辞的否定形式或类似措辞加以识别。这些陈述仅为预测,受多种因素影响,实际结果可能与此类陈述中的预期存在重大差异,其中包括公司向美国证券交易委员会(SEC)提交的文件中所列的因素。