构建契合您网络设计初衷的AI工厂

服务提供商拥有AI工厂所需的数据中心、电力、光纤及企业客户关系。F5则在电信级Kubernetes上提供交付与安全层。

运营者从每座AI工厂都缺少的要素入手


AI工厂需要电力、楼宇、光纤、站点布局,以及信任运营方并愿意托付数据的客户。电信运营商不仅具备这些条件,还拥有数十年运营多租户网络的经验。他们缺少的是将GPU机架转化为企业愿意购买的服务所需的功能层:租户隔离、推理路由和边界防护。F5通过F5 Application Delivery and Security Platform提供这一功能层。

向企业租户销售GPU算力

在共享GPU节点上,为每个租户提供隔离、入站、出站和防火墙策略。

将推理请求路由至有空闲GPU的位置

在每个站点内部,基于实时推理服务信号进行推理感知路由。

复用现有边缘基础设施

位于N6的BIG-IP硬件和云原生功能也能保护AI服务。

基于电信级Kubernetes构建

与美国规模居前的运营商共同开发,并在其大规模Kubernetes环境中得到验证。

F5助力企业在生产环境中运行AI


F5如何帮助服务提供商实现AI变现

GPU即服务(GPUaaS)

产品

BIG-IP Next for Kubernetes

在集群边界实现网络级租户隔离,并为各租户实施独立策略。

产品

NGINX Gateway Fabric

Gateway API实现,用于处理租户集群内的应用流量。

产品

部署在NVIDIA BlueField DPU上的BIG-IP Next for Kubernetes

在DPU上实施租户管控,在DPU模式下释放主机核心,使其重新成为可销售的计算容量。

产品

面向云原生应用的BIG-IP eBPF Observability

实时洞察Kubernetes上租户工作负载的流量。

网络边缘推理

产品

BIG-IP Next for Kubernetes

边缘站点的推理感知路由和租户隔离。

产品

BIG-IP Next CNFs

在同一平台上为N6流量提供云原生防火墙、CGNAT、DNS和策略。

产品

BIG-IP Next DNS CNF

边缘云原生DNS缓存与安全防护。

产品

部署在NVIDIA BlueField DPU上的BIG-IP Next for Kubernetes

在空间和功耗受限的站点,将相同的数据路径卸载到DPU。

产品

BIG-IP Next Edge Firewall CNF

面向用户流量和AI流量的云原生边缘防火墙防护。

大规模保护AI服务

产品

BIG-IP DDoS Hybrid Defender

为AI服务和推理API提供DDoS防护。

产品

BIG-IP DNS

跨站点的DNS和全局服务器负载均衡。

产品

rSeries

用于边缘和区域站点边界服务的硬件设备。

产品

BIG-IP Advanced Firewall Manager

在工厂边界提供电信级网络防火墙防护。

产品

VELOS

面向边界和数据服务的多Tbps级机箱平台。

面向您所在市场的主权AI

产品

BIG-IP Next for Kubernetes

每个租户的路由域、出站策略以及每个租户的防火墙日志。

产品

BIG-IP LTM

在同一国家/地区内的S3存储端点之间实现负载均衡和故障转移。

产品

F5 AI Red Team

在发布前对模型、应用和智能体进行对抗性测试。

产品

BIG-IP DNS

通过全局服务器负载均衡,将用户引导至所在国家/地区的站点。

产品

F5 AI Guardrails

为租户AI应用中的提示词和响应提供运行时保护。

产品

Distributed Cloud API Security

发现并保护对外提供模型访问的API。

资源

参考架构

[@portabletext/react] Unknown block type "span", specify a component for it in the `components.types` prop

[@portabletext/react] Unknown block type "span", specify a component for it in the `components.types` prop

解决方案概述

[@portabletext/react] Unknown block type "span", specify a component for it in the `components.types` prop

[@portabletext/react] Unknown block type "span", specify a component for it in the `components.types` prop

白皮书

[@portabletext/react] Unknown block type "span", specify a component for it in the `components.types` prop

[@portabletext/react] Unknown block type "span", specify a component for it in the `components.types` prop

报告

[@portabletext/react] Unknown block type "span", specify a component for it in the `components.types` prop

[@portabletext/react] Unknown block type "span", specify a component for it in the `components.types` prop

常见问题

运营商已具备AI工厂所需的条件:数据中心、电力、光纤、本地布局、与监管机构的关系,以及数十年大规模运营多租户网络的经验。借助AI工厂,电信运营商可以向现有企业和机构客户销售GPU算力、托管式Kubernetes和推理服务,通常可作为全球服务提供商之外满足主权要求的替代选择,并将推理部署在靠近用户的网络边缘。

AI工厂与现有Kubernetes平台的差异并没有看起来那么大。AI工厂是配备GPU的Kubernetes环境,与5G核心网或边缘平台一样,需要租户隔离、入站和出站流量控制、防火墙防护及可观测性,此外还需要推理感知路由和针对AI特有风险的管控措施。BIG-IP Next for Kubernetes为两者提供网络层,因此负责运行网络平台的团队也能运行AI平台。

是的,AI服务和网络功能可以在同一边缘站点运行。F5用于防火墙、CGNAT、DNS和策略的云原生网络功能在边缘的Kubernetes上运行,BIG-IP Next for Kubernetes则在同一平台上提供租户隔离和推理路由,运行于主机CPU或NVIDIA BlueField DPU上。各自均保持在独立的租户边界内,因此AI工作负载和网络功能可以共享站点,而不会相互波及。

不一定需要NVIDIA BlueField DPU。BIG-IP Next for Kubernetes可在标准主机CPU上运行。BlueField DPU将网络数据路径从主机卸载,并在主机操作系统之外执行策略,这对于空间、电力和主机核心资源紧张的边缘站点尤为重要。在DPU模式下测得的性能结果并不自动适用于主机部署。

F5对AI工厂参考设计中的加速计算、互连网络和模型服务软件起补充作用,而非替代其中的任何部分。BIG-IP Next for Kubernetes已在NVIDIA Enterprise AI Factory验证设计中通过验证,并在NVIDIA Cloud Partner参考架构中作为通用网络功能的组成部分予以记录。F5边界和数据服务则运行于BIG-IP软件、VELOS和rSeries之上。