博客 | 首席技术官办公室

人工智能applications交付和安全综合指南

Lori MacVittie 缩略图
洛里·麦克维蒂
2024 年 8 月 11 日发布

您需要哪些以及它们应该放在哪里? 

每一代新的应用架构都会对网络流量产生影响。 我们关注这一点,因为应用架构的每一次重大转变都会在应用交付和安全性方面发生互补性的转变,以应对出现的挑战。 

深入研究这些转变和网络响应以应对运营挑战,值得注意的是,人工智能应用并没有带来任何新的挑战。 当然,规模、性能、安全性和复杂性都在增加,但这些都是我们十多年来一直在解决的挑战。 

但人工智能确实改变了工作量和流量模式的分配。 这很重要,因为网络流量的大部分是应用流量,而且越来越多的是 API 流量。 这就是不同之处。 了解核心、云和边缘之间的新流量模式和分布,可以深入了解您需要哪些应用交付和安全服务,以及将它们放在哪里才能获得最大的影响和效率。 

新的交通模式

值得注意的是,人工智能应用的一个最显著后果是电子战和神经战流量的增加,其中大部分神经战流量源自人工智能,因此除了传统的入站神经战数据路径之外,还引入出站神经战数据路径作为战略控制点。 

未来 2-3 年,人工智能应用将成为现有产品组合的补充,随着企业了解消费者对 NLI(自然语言界面)的需求,整合将会发生。 

NS数据路径上分布的不断增加将推动对企业边界安全即服务的需求增加,而跨环境的 EW数据路径上分布的不断增加则推动了对多云网络的需求。 从内部来看,电子战数据路径上的数据的敏感性正在加速对安全性和访问能力的需求。

结果是在 AI应用架构中出现了两个新的插入点,应用交付和安全性将变得非常有价值,同时也提供了一个重新考虑在何处部署应用交付和安全性的机会,着眼于效率、降低成本和功效。 

鉴于我们开始看到针对推理服务器记录的 CVE ,这一点很重要。 这是“模型”层的服务器部分,通过 API 与客户端进行通信。此处 API 安全性的使用对于整体 AI安全策略非常重要,因为在这里可以最好地部署检查、检测和保护 AI 模型和服务器免受攻击的能力。 它是“最后一道防线”,并且,鉴于可编程 API 安全解决方案,这是减轻针对 AI 模型的新攻击的最快手段。 

应用交付和安全的插入点

您可能还记得这篇关于AI 推理模式的文章,其中我们展示了当今 AI 推理的三种主要部署模式。 基于这些模式,我们可以在这个扩展的架构中确定应用服务的六个不同的插入点,并确定这些服务的最佳部署位置,以优化安全性、规模和效率。 

  1. 全球服务(每个公司)此层级的应用交付和安全通常是安全服务,但包括公司级交付服务,例如 DNS、GSLB 和多云网络。 DDoS 和Bot Protection等安全服务非常适合此处,因为它们可以防止攻击者消耗 IT 领域深处的关键(且昂贵的)资源,尤其是托管在公共云中的应用。 
  2. 共享服务(每个位置)此层的应用交付和安全性可进一步防止攻击者,并提供可用性服务,例如应用的负载均衡、API 和基础设施服务(防火墙、SSL VPN 等)。  
  3. 应用服务(每个应用)此插入点的应用交付和安全性与它们正在交付和保护的应用或 API 更加密切相关。 这些包括针对现代应用的应用服务,例如 WAF、本地负载均衡和入口控制。 这些应用服务提供并保护“用户到应用程序”的通信。 
  4. 微服务网络(每个集群)此插入点的application交付和安全性通常作为 Kubernetes 基础设施的一部分部署,包括mTLS和服务网格。 这些服务用于提供和保护“应用程序到应用程序”的通信。 
  5. AI 推理服务(每个 AI 计算综合体)这个新的插入点特定于 AI应用,并且包括专门设计用于交付和保护 AI 推理服务的交付和安全功能。 负载平衡很常见,应用层速率限制也很常见,以保护AI 推理 API 。 有关更多详细信息,请参阅人工智能推理对数据中心架构的影响。 
  6. AI 基础设施服务(每个 AI 服务器)这个新的插入点嵌入在 AI 网络结构中,应用交付和安全性部署在 DPU 上,以促进交付和安全服务的卸载。 该插入点通过从 CPU 卸载必要的交付和安全性来提高推理投资的效率,从而使推理服务器“只需提供服务”。 F5 正在从内到外扩展推理,提供有关这一层的更多细节。

现在,事实是大多数应用交付和安全服务都可以部署在任何这些插入点。 例外是那些专门设计用于与环境集成的服务,例如入口控制器和服务网格,它们与 Kubernetes 部署绑定。 

关键是要确定可以最大化变量(功效、效率和成本)的插入点。 这不仅包括所述服务的运营成本,还包括在 IT 领域更深入地处理该流量相关的成本。 

尽管存在将应用交付和安全性与插入点相匹配的最佳实践(因此提到了每个实践的具体服务),但总是存在偏离的理由,因为没有两个企业架构是相同的。 这也是应用交付和安全性可编程的主要原因之一;因为没有两个环境、应用或网络是相同的,并且针对独特用例进行定制的能力是一项关键能力。 

跨环境和插入点的应用交付和安全需求是 F5 坚持支持在每个环境中尽可能多的插入点部署应用交付和安全的原因。 因为这就是我们确保组织能够优化功效、效率和成本的方式,无论他们如何构建其环境、应用和网络。