构建契合您网络设计初衷的AI工厂
服务提供商拥有AI工厂所需的数据中心、电力、光纤及企业客户关系。F5则在电信级Kubernetes上提供交付与安全层。
运营者从每座AI工厂都缺少的要素入手
AI工厂需要电力、楼宇、光纤、站点布局,以及信任运营方并愿意托付数据的客户。电信运营商不仅具备这些条件,还拥有数十年运营多租户网络的经验。他们缺少的是将GPU机架转化为企业愿意购买的服务所需的功能层:租户隔离、推理路由和边界防护。F5通过F5 Application Delivery and Security Platform提供这一功能层。
向企业租户销售GPU算力
在共享GPU节点上,为每个租户提供隔离、入站、出站和防火墙策略。
将推理请求路由至有空闲GPU的位置
在每个站点内部,基于实时推理服务信号进行推理感知路由。
复用现有边缘基础设施
位于N6的BIG-IP硬件和云原生功能也能保护AI服务。
基于电信级Kubernetes构建
与美国规模居前的运营商共同开发,并在其大规模Kubernetes环境中得到验证。
F5助力企业在生产环境中运行AI
F5如何帮助服务提供商实现AI变现
GPU即服务(GPUaaS)
网络边缘推理
大规模保护AI服务
面向您所在市场的主权AI
资源
常见问题
运营商已具备AI工厂所需的条件:数据中心、电力、光纤、本地布局、与监管机构的关系,以及数十年大规模运营多租户网络的经验。借助AI工厂,电信运营商可以向现有企业和机构客户销售GPU算力、托管式Kubernetes和推理服务,通常可作为全球服务提供商之外满足主权要求的替代选择,并将推理部署在靠近用户的网络边缘。
AI工厂与现有Kubernetes平台的差异并没有看起来那么大。AI工厂是配备GPU的Kubernetes环境,与5G核心网或边缘平台一样,需要租户隔离、入站和出站流量控制、防火墙防护及可观测性,此外还需要推理感知路由和针对AI特有风险的管控措施。BIG-IP Next for Kubernetes为两者提供网络层,因此负责运行网络平台的团队也能运行AI平台。
是的,AI服务和网络功能可以在同一边缘站点运行。F5用于防火墙、CGNAT、DNS和策略的云原生网络功能在边缘的Kubernetes上运行,BIG-IP Next for Kubernetes则在同一平台上提供租户隔离和推理路由,运行于主机CPU或NVIDIA BlueField DPU上。各自均保持在独立的租户边界内,因此AI工作负载和网络功能可以共享站点,而不会相互波及。
不一定需要NVIDIA BlueField DPU。BIG-IP Next for Kubernetes可在标准主机CPU上运行。BlueField DPU将网络数据路径从主机卸载,并在主机操作系统之外执行策略,这对于空间、电力和主机核心资源紧张的边缘站点尤为重要。在DPU模式下测得的性能结果并不自动适用于主机部署。
F5对AI工厂参考设计中的加速计算、互连网络和模型服务软件起补充作用,而非替代其中的任何部分。BIG-IP Next for Kubernetes已在NVIDIA Enterprise AI Factory验证设计中通过验证,并在NVIDIA Cloud Partner参考架构中作为通用网络功能的组成部分予以记录。F5边界和数据服务则运行于BIG-IP软件、VELOS和rSeries之上。