随着组织快速扩大人工智能项目规模,底层网络基础设施正面临前所未有的压力。AI工作负载,尤其是侧重于推理和向S3存储端点交付数据的工作负载,需要极高的吞吐量、超高速路由,以及不打折扣的安全保障。
在智能体、嵌入式LLM不断发展、AI应用范围持续扩大的时代,域名系统(DNS)是每次数字交互的起点,也是数据路径中的关键环节,决定着AI项目能否带来投资回报,还是以失败告终。
挑战:当传统系统触及能力上限
现代AI环境产生的海量请求暴露了通用负载均衡工具的局限性,促使IT领导者重新思考如何为大规模AI交付工作流设计架构。近期,一家在全球技术领域处于领先地位的超大规模云服务提供商在探索支持遍布全球的400多个数据中心内AI推理工作流的解决方案时,就遇到了这一转折点。
该公司需要处理海量DNS请求,以支持低延迟推理工作流。其原有的Citrix基础设施成为瓶颈,单台设备支持的DNS响应速率仅为满足需求所需速率的一半。这危及服务可用性,迫使该公司采用效率极低的变通方案,不得不部署更多硬件设备,仅仅是为了弥补原有供应商的不足。
“该客户只需更少的系统即可应对海量流量负载,从而减轻了手动部署硬件的运维负担,让工程团队能够专注于战略性AI扩展,而非基础设施维护。”
性能不足还导致团队不得不投入大量工时,对维持基础设施运行所需的老旧设备进行上架、堆叠和管理。在为海量AI推理流量做准备时,该公司意识到,需要全面改造基础设施,以满足超大规模扩展和高级流量管理的双重需求,并由能够跟上其增长步伐的供应商提供支持。
解决方案:统一采用F5,实现前所未有的规模
为解决这一问题,该公司选择了F5,对原有解决方案进行战略性改造。通过部署F5 BIG-IP DNS和F5 BIG-IP Advanced Firewall Manager (AFM),并将其运行于F5 rSeries设备,该组织满足了工作负载的性能需求,同时硬件占用空间比原有解决方案所需的空间减少了33%。
这一技术基础结合了EDNS客户端子网插入功能与高级速率限制,前者用于优化DNS响应,后者用于应对超过预设安全阈值的流量激增。客户也评估了其他竞品解决方案,但这些方案未能通过其内部认证流程,引发了对风险的担忧。F5脱颖而出,在接受评估的合作伙伴中,仅F5能够满足该环境在规模、性能和安全方面的需求。
成果:简化运营,为AI做好准备
借助F5实现基础设施现代化,解决了亟待处理的性能瓶颈,并显著缩减了硬件规模。由于只需更少的系统即可处理海量流量,该客户减轻了手动部署硬件带来的运维负担,让工程团队能够专注于战略性AI扩展,而非基础设施维护。
下一步:让DNS成为智能体AI的控制层
此次基础设施全面改造反映了更广泛的行业现实:网络流量正从由人发起,根本性地转向由机器驱动的自主AI交互。随着越来越多的组织部署智能体AI,人类的一条提示就可能触发大规模的级联操作,包括机器间的发现、数据库查询和API调用,这些操作以机器速度持续高速运行。
流量类型的这一转变,要求流量控制问题的解决方式也相应转变。在AI出现之前,我们可能会问:“应该由哪个应用为这位用户提供服务?”如今,问题则更接近于:“此时此刻,应该由哪个模型、区域、GPU集群、云或推理服务提供商来处理这个请求?”
AI时代的有效DNS解决方案必须能够充当智能、高性能的控制层。虽然AI流量并不需要全新的DNS协议,但它确实大幅提升了对DNS关键能力的需求,包括超大规模处理能力、韧性和智能全局流量引导。
随着智能体AI系统跨多个模型、云和区域编排工作,组织将需要在毫秒级时间内,将推理请求动态引导至高度适配、高效、健康且地理位置合适的执行环境。正如这家技术领军企业所展示的,要真正为AI做好准备,就需要优先建设能够应对未来智能体时代超高流量速率与规模的DNS和应用交付基础设施。
了解详情,探索F5的AI使命。如需提高自身AI推理架构的效率,请联系F5。
此外,欢迎阅读更多F5客户案例,了解各行各业的企业选择F5的原因。
关于作者

Griff Shelley是F5的产品营销经理,专注于硬件、软件和SaaS应用交付解决方案。他热衷于将创新技术与客户成功相结合,推动全球及本地应用交付、云服务和AI数据流量基础设施领域的市场推广项目。
Griff Shelley 的更多博客文章相关博客文章

三家企业如何借助AI驱动的WAF改进虚拟补丁和运行时安全
了解三家F5客户如何利用AI驱动的WAF加快虚拟补丁部署、将误报减少50%以上,并更有信心地启用阻断模式。

F5 BIG-IP v21.0增强S3工作流的AI数据交付与摄取能力
使用F5 BIG-IP 21.0版优化S3工作流:通过低接触式配置,为AI数据交付、对象存储和RAG管道提供可扩展的安全解决方案。
Everest Group报告:生成式AI行业应用的当前趋势与未来前景
我们很高兴能为全球知名研究机构Everest Group发布的一份重要新报告作出积极贡献。该报告题为《生成式AI应用:审视横向职能中的实际应用与未来展望》,深入分析了各行业对生成式AI(GenAI)的应用情况。报告指出,IT[……]
