AWS 多云 AI 工作负载：保障 AI API 安全并实现规模扩展

您知道94% 的组织在多个环境中部署应用程序，包括公共云、私有数据中心和边缘系统的组合吗？ 我们正处于混合多云时代，这样做带来的优势显而易见。 在多云环境中，企业不必受限于单一供应商，可以为每个工作负载包括 AI 选取最适合的服务和实例类型。

多云AI面临着独特的挑战。 为确保AI保持准确和高效，您需要不断提供数据，这意味着要实现跨环境的数据仓库无缝连接。 AI工作负载高度动态，涵盖从简单问答到深度分析或内容生成，不同程度地消耗GPU资源。

另外，网络威胁格局变得更复杂，因为人工智能通过即时注入和模型解锁等技术，已成为一种新的攻击手段。 人工智能还依赖大量 API 连接，正是由于其对数据的强烈需求，这扩大了攻击面，也加剧了来自人工智能的横向网络渗透风险。

我们还未解决多云环境扩展的问题。 随着环境、连接和复杂度的增加，您会发现管理与保持全局可见性变得极其困难。

好消息是我们有一套应对这些挑战的方案，核心是整合关键基础设施元素，为 AI 构建安全且高效的通道。整体方案通常如下：

• 私有连接主干网比通过公共互联网连接不同环境更为优越。 私有骨干网为您提供安全、可靠的连接，避免外部不可控因素的影响。
• 智能流量管理 利用 AI 感知的路由指令，更高效地在容器间分配工作负载，避免昂贵的 GPU 资源被浪费或闲置。
• 统一安全框架在云端跨界持续提供相同的保护（如加密、身份验证等）。 这保证您在公共云实例、私有服务器及边缘系统中始终执行一致的安全和隐私策略。
• 集中编排平台将各方资源连接起来，让您全面掌握端到端的运行状况。 理想的编排平台还能呈现 AI 相关指标，如模型加载时间和推理延迟，助您持续优化。

只要满足这些条件，您就能轻松实现多云 AI 的最佳状态，安全可靠地将数据传输至任何所需位置，支持模型训练、微调、推理、优化，以及检索增强生成（RAG）等强大应用。

实现您的多云 AI 构想，最快捷的方法是采用可信供应商的成熟方案。 F5 解决方案补充了您可能正在使用的 AWS 服务，如托管 AI 模型的 Amazon Bedrock 或构建自定义 AI 的 Amazon SageMaker，并为多云环境构建统一的基础设施提供关键连接。

• F5全球网络为不同环境间提供高性能、安全且私密的连接，避免任何公共互联网风险。 遍布全球的多个节点确保您的数据存留本地，实现快速响应。
• F5 AI Gateway通过先进的负载均衡，实现了容器化 AI 的智能流量管理。我们结合安全控制和输入/输出验证，有效防止提示注入及其他滥用手段，保护 AI 模型免遭数据泄露。
• F5 分布式云服务为您提供全面的可视化和控制能力，助您通过一键部署实现云端、边缘及本地环境的互联互通。 我们让您能够轻松统一执行 IT 和数据治理策略，适用于所有环境。

针对 NetApp 客户，F5 和 AWS 同时支持包括 NetApp BlueXP 和 NetApp ONTAP 在内的 NetApp 存储解决方案，让您充分利用这些统一的数据管理与迁移功能，推动并优化您的多云 AI 项目。

RAG 利用组织的专有数据，通过领域知识提升模型的准确性，现已成为除最通用聊天机器人外的普遍标配。 但因为使用的是专有数据，这些数据的价值更高，也更易被攻击。 F5 Distributed Cloud Network Connect 在数据穿越混合多云环境时，提供安全的三层连接并支持 Amazon S3 协议，确保数据安全。

网络边缘具备巨大潜力，可通过在数据生成地附近进行处理和推理，显著提升人工智能的响应速度和降低延迟。 F5 分布式云客户边缘让您轻松将边缘地点安全连接到分布式云服务中的集中管理模型。 该解决方案还可与 AI Gateway 配合，实现基于 Kubernetes 的 AI 服务和安全保护延伸至边缘，同时支持 AWS Local Zones 和 AWS Outposts 等边缘服务。