F5与Scality：增强大规模AI数据交付能力

F5与Scality：优化AI数据交付和AI流水线

人工智能的兴起彻底改变了数据管理，人工智能的兴起彻底改变了数据管理和处理方式，促使各行各业的企业大力投资稳健的基础设施，以充分发挥AI性能。

F5和Scality走在新一轮AI流水线优化的前沿，其解决方案以先进技术应对可扩展性、韧性和安全性方面的挑战。双方融合创新技术，承载PB级数据并管理AI应用的流量处理，确保数据在整个AI流水线中无缝交付和处理。

本文总结了网络研讨会“大规模提升AI数据交付能力：F5与Scality如何革新性能与安全性”的关键见解，详细阐述双方技术如何协同优化AI流水线，重点说明其解决方案的重要性，并探讨组织如何借助这些解决方案，高效扩展AI数据交付工作流。

了解负载均衡在优化AI流水线中的重要性

在网络研讨会中，Scality销售工程总监Chris Harvey强调了负载均衡在优化AI工作流中的关键作用。AI工作负载高度依赖高吞吐量、无中断的数据传输。S3（Amazon Simple Storage Service）已成为AI流程中事实上的数据协议，为分析、备份和推理等应用提供支持。

然而，GPU密集型AI应用的高并发和高带宽需求，加上推理和检索增强生成（RAG）中的动态请求，需要精细的流量管理机制。这正是F5负载均衡解决方案的优势所在。传统系统可能依赖DNS轮询技术，容易将请求分配到失效端点；与之不同，F5采用健康探测和智能算法，确保故障连接器不会干扰正常运行。

要点：

• S3作为标准协议：S3现已成为AI工作负载的通用协议，在客户端并发量极高的情况下，对优化数据流起着关键作用。
• 健康探测：F5利用主动健康探测，自动从工作流中移除故障连接器。
• 负载感知分配：智能负载均衡算法可防止出现瓶颈，并优化服务器利用率。

AI流水线面临的挑战与Scality的Autonomous Data Infrastructure (ADI)

本次网络研讨会探讨了AI流水线经常面临的挑战，包括AI数据交付中断、规模化运行时的可靠性保障，以及推理期间的动态数据访问。Scality的ADI与F5 BIG-IP解决方案相结合，通过卸载KV缓存并提供GPUDirect级别的吞吐量来解决这些问题。
AI流水线管理中的一个关键障碍是GPU停机。闲置的GPU无法带来投资回报，因为云端和本地部署的模型都需要持续摄取数据才能产生经济效益。Scality通过以下方式应对这些挑战：

• 动态数据请求：GPU主机预先暂存训练数据，或在推理期间动态检索所需文件。
  
• 直接内存访问（RDMA）：支持更快的数据流传输，传输速率达每秒数TB，确保GPU持续得到充分利用。

为何AI流水线不容停机

AI应用即使遇到轻微故障也会受到影响。长时间运行的分析作业通常持续数天甚至数周，一旦中断，可能需要重新启动，带来高昂成本。此外，端点的短暂故障可能中断实时RAG流程，影响关键业务产出。
F5解决方案通过部署动态负载均衡技术和服务保障机制，确保“始终在线”的可用性：

• TLS卸载：节省S3连接器的CPU资源，同时支持集中管理证书。
  
• 部署拓扑：采用全局服务器负载均衡（GSLB）的单站点和多站点部署可确保韧性。

通过Scality-F5集成优化流水线：架构概述

Scality ADI与F5 BIG-IP的协同是其AI工厂架构的核心。该设计具备丰富的智能资源管理功能，着重于安全地扩展API、分配工作负载以及有效交付AI数据。重点包括：

• 有状态API：管理智能体AI和检索机制等实时应用的资源分配。
• 运维QoS优势：F5通过集中控制实现租户隔离、流量限速和服务等级策略执行，解决租户间资源争用引发的干扰问题，使系统保持良好运行状态。

优化性能、可扩展性和安全性：前沿创新

对于管理大规模、多PB基础设施的组织，性能优化必不可少。F5的集成方案提供专为AI流水线优化而设计的硬件加速能力。通过将其专有FPGA设计与Scality ADI的无状态S3连接器池相结合，这些方案可构建高效系统，在维持吞吐量的同时避免瓶颈。

此外，F5利用包括后量子密码学（PQC）标准在内的前沿安全措施，助力组织提前应对未来量子解密技术可能带来的数据漏洞。

性能亮点：

• F5的旁路功能支持批量交付AI数据，同时保持可扩展性。
  
• 租户专属配置可确保共享基础设施的应用或实体之间实现顺畅隔离。

优化AI流水线的重点不在于实施零散的修补措施，而在于利用集成且可扩展的解决方案。F5和Scality的网络研讨会展示了双方的技术如何应对动态AI工作流带来的挑战，同时确保韧性、可扩展性和安全性不受影响。

随着AI持续推动各行业转型，组织必须投资采用F5和Scality等公司提供的解决方案，使基础设施能够应对未来日益复杂的环境和不断增多的威胁。两家公司在负载均衡、数据交付和基础设施优化方面的创新方法，为有效管理现代AI流水线树立了标杆。

如需深入了解如何优化AI流水线，请通过上方表单点播观看完整网络研讨会。