部署在NVIDIA BlueField DPU上的BIG-IP Next for Kubernetes

Name: 部署在NVIDIA BlueField DPU上的BIG-IP Next for Kubernetes
Brand: F5

为大规模AI基础设施提供高性能流量管理和安全防护，帮助AI应用提升效率、控制力和性能。

了解详情

提供多租户、加速和可观测性

部署在NVIDIA BlueField DPU上的BIG-IP Next for Kubernetes为企业和服务提供商提供统一控制点，帮助充分利用AI云基础设施，并加速数据摄取、模型训练、推理、RAG和智能体AI等场景中的AI流量。

提高效率，降低成本

充分发挥AI基础设施投资价值，通过为云规模AI基础设施提供高性能流量管理和负载均衡，降低总体拥有成本。

支持AI云服务提供商的多租户架构

为AI应用启用基于Kubernetes的安全多租户和网络隔离，使多个租户和工作负载能够高效共享同一套AI基础设施，甚至可细化到服务器级别。

DPU 驱动的零信任安全

集成关键安全功能和零信任架构，包括边缘防火墙、DDoS缓解、API保护、入侵防御、加密和证书管理，同时将这些功能卸载到DPU上，由DPU进行加速和隔离。

单一控制点

性能提升

充分释放基础设施潜力AI应用需要更强的网络加速能力。BIG-IP Next for Kubernetes通过直接连接前端网络，优化流向AI集群的流量，从而提高GPU资源的使用效率。对于拥有数十亿参数的AI模型，BIG-IP Next for Kubernetes可降低延迟，并为数据摄取和传入查询提供高性能负载均衡。

扩展GPUaaS

多租户架构为AI工厂和承载AI工作负载的云数据中心提供强劲动力支持组织在共享计算集群上服务更多用户，同时扩展AI训练和推理工作负载。利用先进的Kubernetes功能实现AI工作负载自动化和集中式策略控制，加快AI模型与不同位置的数据存储建立连接，并显著提升应用性能的可观测性。

保护数据、模型和应用

保护AI部署并简化运维随着AI模型API的快速增长，安全挑战也日益严峻。BIG-IP Next for Kubernetes可自动发现并保护端点，帮助AI应用抵御不断演变的威胁。通过将网络安全处理从CPU卸载到NVIDIA BlueField DPU，并利用其零信任架构，BIG-IP Next for Kubernetes可提供精细化保护并确保可靠的数据加密。这种方法不仅能增强网络防御能力，还能优化AI数据管理，帮助服务提供商和企业构建更安全、更具可扩展性且更高效的基础设施。

优化南北向流量

全面了解网络、流量管理和安全状况该解决方案可满足AI工作负载日益增长的需求，并专为Kubernetes环境而构建。它可提高南北向流量的传输效率，并帮助组织全面了解推理和智能体AI等AI用例中的网络、流量管理和安全状况。

优化LLM路由和推理

高级LLM路由可将任务动态分配给效率更高的模型，从而降低延迟、缩短首字节响应时间（TTFB），并利用特定领域的LLM提高输出质量。通过集成NVIDIA Dynamo，利用CPU上经济高效的KV缓存进一步加速分布式推理，减少对GPU内存的依赖，同时优化性能。F5充当反向代理，为模型上下文协议（MCP）部署增强安全性，保护LLM免受不断演变的威胁，并确保能够适应快速变化的AI协议，从而支持可扩展的安全运营。

大规模部署NVIDIA加速计算

充分发挥投资价值

对于在AI工厂和云数据中心部署大规模GPU集群的组织而言，性能、效率和安全性是取得成功的关键。BIG-IP Next for Kubernetes利用NVIDIA BlueField-3 DPU平台，释放宝贵的CPU周期，用于可创造收入的应用。将BIG-IP Next for Kubernetes部署在NVIDIA BlueField-3 DPU（B3220和B3240版本）上，可优化数据传输、提高GPU利用率，同时优化能耗。

核心功能

BIG-IP Next for Kubernetes为AI工厂提供高性能网络、高级安全防护和简化运维，支持无缝扩展、Kubernetes集成和实时流量可见性，从而优化AI工作负载。

充分发挥AI性能

提升AI工作负载的数据吞吐量和GPU利用率。

安全多租户

为多个租户启用安全、隔离的环境。

零信任安全

利用高级安全功能保护AI工作负载。

集中管理

通过单一控制点简化运维。

高速网络

为要求严苛的AI任务提供超高速连接。

无缝扩展

随着AI工作负载增长，轻松扩展基础设施。

Kubernetes 集成

与Kubernetes原生工作流无缝集成。

流量可观测性

实时洞察网络流量和性能。

资源

精选

F5 BIG-IP Next for Kubernetes 搭配NVIDIA BlueField DPU，可提供经过验证的AI推理性能。

The Tolly Group的独立测试表明，F5智能AI流量管理可显著提升推理效率，使在NVIDIA加速基础设施上运行的大规模AI工作负载实现更高的令牌吞吐量、更短的首个令牌生成时间和更低的延迟。