您需要哪些?应该将它们放在哪里?
每一代新的应用架构都会影响网络流量。我们关注这一点,是因为每当应用架构发生重大变化,应用交付和安全也会随之调整,以应对由此产生的挑战。

深入分析这些变化以及网络为应对运维挑战而采取的措施,可以发现,AI应用实际上并未带来全新的挑战。当然,规模和复杂性有所增加,对性能和安全的要求也有所提高,但这些仍是我们十多年来一直在解决的挑战。
但AI确实改变了工作负载的分布和流量模式。这一点很重要,因为这些网络流量大多是应用流量,而API流量的占比也在不断增加。这正是不同之处。了解这些新的流量模式及其在核心、云和边缘的分布,有助于明确需要哪些应用交付和安全服务,以及将这些服务部署在何处才能充分发挥作用并提升效率。
新的流量模式

值得注意的是,AI应用带来的显著影响之一,将是东西向和南北向流量的增长。其中,大量南北向流量源自AI,因此,除了传统的入站南北向数据路径,出站南北向数据路径也将成为战略控制点。
未来2至3年内,AI应用将作为现有应用组合的补充;随着组织逐步了解消费者对自然语言界面(NLI)的需求,应用组合将逐步整合。
南北向数据路径的分布程度不断提高,将推动企业边界对安全即服务的需求进一步增长;与此同时,跨环境的东西向数据路径的分布程度不断提高,正在推动对多云网络的需求。在内部,东西向数据路径上数据的敏感性正加速推动对安全和访问能力的需求。
由此,AI应用架构中出现了两个新的插入点,应用交付与安全将在这些位置发挥价值。这也提供了一个机会,可以重新考虑应用交付与安全的部署位置,以提高效率、降低成本并提升成效。
这一点很重要,因为我们开始看到针对推理服务器的CVE记录。推理服务器是“模型”层中通过API与客户端通信的服务器部分。在此处应用API安全是整体AI安全策略的重要一环,因为这里适合部署检查、检测以及保护AI模型和服务器免遭漏洞利用的能力。这里是“最后一道防线”;如果采用可编程的API安全解决方案,也能以更快的方式缓解针对AI模型的新型攻击。
应用交付与安全的部署位置
您或许还记得这篇关于AI推理模式的文章,其中介绍了当前AI推理的三种主要部署模式。基于这些模式,我们可以在这一扩展架构中确定六个不同的应用服务插入点,并确定这些服务的适宜部署位置,以优化安全性、扩展能力和效率。

- 全局服务(按公司) 此层级的应用交付和安全服务通常以安全服务为主,但也包括DNS、GSLB和多云网络等公司级交付服务。DDoS防护和Bot Protection等安全服务非常适合部署在此层级,因为它们可以防止攻击者消耗IT环境深层的关键资源(这些资源的成本也很高),尤其是托管在公有云中的应用。
- 共享服务(按位置) 此层级的应用交付与安全服务可进一步抵御攻击者,并为应用、API和基础设施服务(防火墙、SSL VPN等)提供负载均衡等可用性服务。
- 应用服务(按应用) 应用交付和安全在此插入点与其交付和保护的应用或API联系更紧密。这些应用服务包括WAF、本地负载均衡,以及面向现代应用的入口控制。这些应用服务负责传送“用户到应用”的通信并保障其安全。
- 微服务网络(每个集群) 此插入点的应用交付和安全功能通常作为Kubernetes基础设施的一部分部署,包括mTLS和服务网格。这些服务用于交付“应用到应用”的通信并保障其安全。
- AI推理服务(每个AI计算综合体)这一新增部署点专用于AI应用,包含旨在专门交付和保护AI推理服务的交付与安全功能。常见功能包括负载均衡,以及用于保护AI推理API的应用层速率限制。有关更多详情,请参阅《AI推理对数据中心架构的影响》。
- AI基础设施服务(每台AI服务器) 这一新的部署位置内嵌于AI网络结构中,通过在DPU上部署应用交付与安全功能,支持交付与安全服务的卸载。通过将必要的交付与安全任务从CPU卸载到DPU,这一部署位置有助于提高推理投资的效益,让推理服务器“专注于提供推理服务”。F5正由内而外扩展推理能力一文提供了有关这一层级的更多详细信息。
事实上,大多数应用交付和安全服务都可以部署在上述任一插入点。例外的是专为与特定环境集成而设计的服务,例如与Kubernetes部署绑定的Ingress控制器和服务网格。
关键在于确定能够优化效果、效率和成本的插入点。这里的成本不仅包括这些服务的运营成本,还包括在IT环境更深处处理相关流量所产生的成本。
尽管应用交付和安全与插入点的匹配有相应的最佳实践(因此前文针对各个插入点提到了具体服务),但由于企业架构各不相同,总会有需要偏离这些实践的理由。这也是应用交付和安全需要具备可编程性的主要原因之一:环境、应用和网络各不相同,因此,针对特定用例进行定制是一项关键能力。
应用交付与安全需要覆盖不同环境和插入点,因此F5坚持支持在每个环境中尽可能多的插入点部署应用交付与安全服务。这样,无论组织如何设计其环境、应用和网络架构,我们都能确保组织可以在效能、效率和成本方面进行优化。
关于作者

Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师,在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构,还是探索可扩展系统的极限,她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前,她曾担任技术编辑,并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位,著述颇丰,出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏,并且对奶酪有着毫不掩饰的鲜明见解。
Lori Mac Vittie 的更多博客文章相关博客文章
2023年应用策略现状:成本与复杂性是推动多云网络发展的首要因素
多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联,为解决当今混合IT面临的挑战提供支持,因而备受业界关注。
