在自主掌控的基础设施上运行AI工厂
在自有GPU上运行AI的企业需要在同一平台上实现数据交付、推理路由、团队间隔离和运行时安全防护。
私有AI现已成为生产平台
F5《2026年应用策略现状报告》发现，78%的企业现已将AI推理作为核心业务运营的一部分。私有AI平台通过共享GPU为多个团队、模型和智能体提供服务，也需要满足生产应用的各项要求：快速的数据访问、路由、隔离、安全性和可见性。F5通过F5 Application Delivery and Security Platform满足这些需求。
持续为GPU供给数据
为训练、微调和检索提供具备负载均衡能力和韧性的S3数据路径。
将请求路由到合适的模型
基于推理感知的跨模型和GPU路由，遵循Gateway API标准构建。
安全地跨团队共享GPU
通过网络隔离，在同一GPU资源池中隔离不同业务单元和环境。
保护提示词、数据和智能体
为内部AI应用、智能体及其API提供运行时护栏和红队测试。
F5助力企业在生产环境中运行AI
向GPU传输数据
推理路由
团队间隔离
运行时AI安全
资源
常见问题
企业AI工厂是组织在自有数据中心、托管设施或专用云资源中，利用其掌控的GPU运行的AI基础设施，用于为自身的应用和智能体训练、微调模型并提供模型服务。组织构建AI工厂，是为了将敏感数据保留在内部、满足监管要求、在规模化运行时控制成本，或定制模型。AI工厂使AI成为由组织运营的平台，与任何生产系统一样，需要满足交付和安全需求。
为避免GPU因等待数据而空闲，应像管理其他生产流量一样管理存储路径。在S3端点前部署负载均衡器，将作业分散到各个存储节点，避免集中冲击单个节点；当节点或站点发生故障时，无需重启作业即可进行故障切换；并根据策略引导流量在不同站点和云之间流转。此外，还应保护S3 API，因为数据路径也可能成为攻击路径。
要在企业内共享GPU，可将GPU池化，并为每个团队划定边界、分配份额。Kubernetes命名空间和配额负责调度，网络级隔离将各团队的流量分隔开来，基于token的团队限额则可防止某个团队的工作负载挤占其他团队的资源。随后，推理感知路由根据各请求的工作量分配请求，使共享GPU得到均衡利用。
要在本地安全地运行LLM，应将模型视为生产流水线的一个组件。在网络中隔离不同团队和环境，控制模型和智能体可访问的集群外部资源，在运行时检查提示词和响应中是否存在注入攻击和数据泄露，在发布前对模型和智能体进行对抗性测试，并保护对外提供模型和智能体访问的API。然后，记录跨越各个边界的内容。
不需要，企业AI工厂并不一定需要DPU。BIG-IP Next for Kubernetes在标准主机CPU和Kubernetes上运行，这也是大多数企业AI平台的起点；F5数据交付则在BIG-IP软件、VELOS和rSeries上运行。NVIDIA BlueField DPU将网络数据路径从主机卸载，并增加硬件级隔离；随着基础设施规模扩大，这种方式的价值会逐渐显现。