F5携手NVIDIA扩展性能、多租户和安全能力,助力应对快速演进的AI格局

发布日期:2025年6月11日
联系人

Sesterce验证彰显了F5与NVIDIA的协同创新,帮助客户充分发挥AI优先应用交付的价值

巴黎,F5(纳斯达克股票代码:FFIV)致力于交付和保护每个应用及API,处于全球前沿。F5今日宣布为F5 BIG-IP Next for Kubernetes推出新功能,该功能由NVIDIA BlueField-3 DPU和NVIDIA DOCA软件框架加速,并通过客户Sesterce的验证部署得到印证。Sesterce是欧洲领先的运营商,专注于下一代基础设施和主权AI,旨在满足加速计算和人工智能的需求。

作为F5 Application Delivery and Security Platform的扩展,原生运行于NVIDIA BlueField-3 DPU上的BIG-IP Next for Kubernetes可为大规模AI基础设施提供高性能流量管理和安全防护,帮助AI应用提升效率、控制力和性能。除今年早些时候随正式发布一同公布的显著性能优势外,Sesterce还成功完成了对F5与NVIDIA解决方案多项关键功能的验证,包括以下方面:

- 增强性能、多租户能力和安全性,满足云级要求,初步结果显示GPU利用率提升了20%。

- 与NVIDIA Dynamo和KV Cache Manager集成,以降低大语言模型(LLM)推理系统的推理延迟,并优化GPU和内存资源。

- 智能LLM路由,在BlueField DPU上运行,可与NVIDIA NIM微服务高效协同,适用于需要使用多个模型的工作负载,帮助客户充分发挥所有可用模型的优势。

- 扩展模型上下文协议(MCP)并保障其安全 包括反向代理功能和保护措施,提升LLM的可扩展性和安全性,帮助客户快速、安全地利用MCP服务器的强大功能。

- 强大的数据可编程能力 依托强大的 F5 iRules 功能,可快速进行定制,以支持AI应用和不断变化的安全要求。

Sesterce首席执行官兼联合创始人Youssef El Manssouri表示:“甚至在开展任何测试之前,F5与NVIDIA的集成就已经非常吸引我们。我们的测试结果凸显了在AI环境中,将F5动态负载均衡用于大流量Kubernetes入站和出站流量的优势。这种方法使我们能够更高效地分配流量并优化GPU利用率,同时为客户带来更多独特价值。我们很高兴看到F5支持越来越多的NVIDIA用例,包括增强的多租户功能;我们也期待两家公司进一步创新,共同支持下一代AI基础设施。”

新解决方案的主要功能包括:

  • 使用BIG-IP Next for Kubernetes实现LLM路由和动态负载均衡

这项协作解决方案可在支持生成式AI时,将简单的AI相关任务路由到成本较低的轻量级LLM,同时将高级模型留给复杂查询。这种可定制的智能还支持路由功能利用特定领域的LLM,从而提高输出质量,并显著改善客户体验。F5的高级流量管理可确保将查询发送到最合适的LLM,从而降低延迟并缩短首个令牌生成时间。

F5首席创新官Kunal Anand表示:“越来越多的企业正在部署多个LLM,以支持先进的AI体验。但LLM流量的路由和分类可能需要大量计算资源,从而影响性能和用户体验。通过直接在NVIDIA BlueField-3 DPU上对路由逻辑进行编程,F5 BIG-IP Next for Kubernetes能够高效交付并保护LLM流量。这只是一个开始。我们的平台为AI基础设施带来了更多可能。随着企业AI持续扩展,我们期待与NVIDIA深化协同创新。”

  • 通过集成NVIDIA Dynamo和KV缓存,优化GPU以支持大规模分布式AI推理

今年早些时候,NVIDIA Dynamo 正式推出,为在大规模分布式环境中部署生成式AI和推理模型提供了补充框架。NVIDIA Dynamo通过编排调度、路由和内存管理等任务,简化在分布式环境中运行AI推理的复杂性,确保系统在动态工作负载下顺畅运行。F5与NVIDIA联合解决方案的一项核心优势,是将特定操作从CPU卸载到BlueField DPU。借助F5,Dynamo KV Cache Manager功能可根据容量智能路由请求,并利用键值(KV)缓存保留先前操作的信息,从而加快处理速度,无需执行资源密集型的重新计算,进而加速生成式AI用例。从基础设施角度看,组织存储和重复使用KV缓存数据的成本仅为使用GPU内存实现相同目的的一小部分。

NVIDIA AI 网络与安全解决方案、生态系统及市场营销高级总监Ash Bhalgat表示:“由NVIDIA BlueField-3 DPU加速的BIG-IP Next for Kubernetes为企业和服务提供商提供统一控制点,可将流量高效路由至AI工厂,从而优化GPU效率,并加速用于数据摄取、模型训练、推理、RAG和智能体AI的流量。此外,F5对多租户的支持以及iRules带来的增强可编程性,可继续提供一个非常适合持续集成和添加功能的平台,例如增加对NVIDIA Dynamo Distributed KV Cache Manager的支持。”

  • 借助F5和NVIDIA增强对MCP服务器的保护

模型上下文协议(MCP)是由Anthropic开发的一种开放协议,用于规范应用向大语言模型(LLM)提供上下文的方式。在MCP服务器前端部署F5与NVIDIA的联合解决方案,可使F5技术充当反向代理,增强MCP解决方案及其所支持LLM的安全能力。此外,F5 iRules提供的全面数据可编程性有助于快速适应不断演进的AI协议要求并增强韧性,同时进一步防范新兴网络安全风险。

World Wide Technology全球服务提供商高级副总裁Greg Schoeny表示:“实施智能体AI的组织越来越依赖MCP部署来提升LLM的安全性和性能。F5与NVIDIA将高级流量管理和安全能力引入大规模Kubernetes环境,提供集成式AI功能集以及可编程性和自动化能力。这些能力目前在业内其他解决方案中尚不多见。”

部署在NVIDIA BlueField-3 DPU上的F5 BIG-IP Next for Kubernetes现已正式发布。要了解更多技术详情和部署优势,请访问www.f5.com,并在本周VivaTech 2025活动期间举办的NVIDIA GTC Paris大会上参观这些公司的展位。更多详情还可参阅F5配套博客。

关于 Sesterce

Sesterce成立于2018年,是一家专注于高性能计算和人工智能基础设施的欧洲主要运营商。凭借对整个价值链的全面掌控,该公司为初创企业、大型企业和学术机构提供灵活、自主且可持续的定制解决方案。Sesterce致力于成为欧洲AI基础设施领域的重要企业,帮助创新者扩大规模,同时恪守道德和环境标准。

秉持这一理念,Sesterce还在其基础设施之上提供“AI原生”服务层:通过高级数据准备功能接入并转换异构实时数据流;为开发或部署大规模模型的组织提供超大语言模型(VLLM)专项支持;并为AI原生初创企业和成熟企业提供模块化商业智能解决方案。此外,Sesterce通过完全符合欧洲主权和保密标准的私有AI及推理环境,确保端到端的隐私保护和控制。

关于F5

F5, Inc.(纳斯达克股票代码:FFIV)是应用交付与安全领域的全球领导者。凭借30年的专业经验,F5打造了业界卓越的平台,即F5 Application Delivery and Security Platform (ADSP),可在本地、云端、边缘以及混合多云环境中交付和保护每个应用及每个API。F5致力于持续创新,并与全球众多大型先进组织携手合作,提供快速、可用且安全的数字体验。我们携手共进,共创更美好的数字世界。

如需了解更多信息,请访问 f5.com
访问以下网站,了解 F5 Labs 的威胁研究: f5.com/labs
关注以下平台,进一步了解 F5、我们的合作伙伴和相关技术: 博客 | LinkedIn | X | YouTube | Instagram | Facebook

F5、BIG-IP、BIG-IP Next和iRules是F5, Inc.在美国及其他国家/地区的商标、服务标志或商号。本文提及的所有其他产品和公司名称可能是其各自所有者的商标。

###

本新闻稿可能包含与未来事件或未来财务表现有关的前瞻性陈述,此类陈述涉及风险和不确定性。此类陈述通常使用“可能”“将”“应当”“预期”“计划”“预计”“认为”“估计”“预测”“潜在”或“继续”等词语,或这些词语的否定形式或类似表述加以识别。这些陈述仅为预测,受多种因素影响,实际结果可能与此类陈述中的预期存在重大差异,其中包括公司向美国证券交易委员会(SEC)提交的文件中所列的因素。