优化人工智能工厂数据摄取的流量管理
2024年夏天，英伟达创始人兼首席执行官黄仁勋提出，“新型数据中心AI工厂将生产出一种新商品：人工智能”。 因此，让我们将人工智能视为一种实物商品。 这样做让人想起了福特的 River Rouge Complex——垂直整合和工业化的体现。 一边是铁和橡胶，另一边是福特汽车。 Rouge 公司拥有自己的码头、100 英里的内部铁路轨道、专用发电厂，甚至还有自己的综合钢铁、玻璃和造纸厂，每天 24 小时运转，每年生产近150 万辆汽车。
同样，当今和未来的人工智能工厂将为大容量、高性能的训练和推理模型提供数据，需要消耗大量的原材料。 即数据。 结构化、非结构化、视频、文本等等。 这些工厂将这些数据转换成标记化的输出，可供各种应用使用。 正如 The Rouge Complex 需要对生产的每个阶段进行精确控制一样，AI 工作负载需要强大的流量管理系统来处理数据提取、处理和交付——简而言之：物流。 正确的交通管理解决方案使人工智能工厂能够从田间获取原材料并使其可用。 有了正确的物流工具，团队可以确保无缝的数据流、高吞吐量、低延迟和安全性，就像保持装配线在每个阶段都顺利运行一样。
每个 AI 工厂都需要什么
《哈佛商业评论》在 2020 年概述了阿里巴巴的关联公司蚂蚁集团如何从其人工智能工厂创造可操作的情报来“管理各种业务，服务的客户数量是美国最大银行的 10 倍以上，但员工数量却不到十分之一”。 蚂蚁集团构想人工智能工厂建设的方式同样引人注目：
“每个工厂都有四个必不可少的组成部分。 第一个是数据管道，即以系统、可持续和可扩展的方式收集、清理、集成和保护数据的半自动化过程。 第二个是算法，它可以对业务的未来状态或行动做出预测。 第三个是实验平台，用于测试有关新算法的假设，以确保其建议具有预期的效果。 第四是基础设施，即将这一过程嵌入软件并将其与内部和外部用户连接起来的系统。”
在我们早期的 AI 工厂系列中，F5 将 AI 工厂定义为满足大容量、高性能训练和推理需求的大规模存储、网络和计算投资。 这就是为什么蚂蚁集团列表中的第一和第四个部分特别有趣的原因：建立安全有效地管理人工智能模型所摄取数据所需的系统的挑战，带来了一个问题：人工智能工厂应该如何开发周围的基础设施来创造价值。
AI 数据摄取的流量管理是一个持续不断的过程，通过该过程，管理数十亿参数、富媒体的 AI 数据流量并将其传输到 AI 工厂以进行机器学习和训练。 这时高性能流量管理解决方案就可以发挥作用，将流量引入 AI 工厂。 如果没有这样的解决方案，团队可能很快就会发现他们需要重新使用连接来保持流量畅通或达到存储基础设施的限制，而这两者都不适合人工智能工厂以其期望的、优化的速度和规模运行的高容量、低延迟的数据传输要求。
管理往返于 AI 工厂、穿过 AI 工厂以及在 AI 工厂之间传输的 AI 数据流量。
保持人工智能工厂正常运转
但该领域的进步速度远未停滞。 日益复杂的人工智能模型需要以越来越高的频率输入大量数据。 这引入了数据重力挑战，因为在 AI 模型中，数据在云端或本地的放置非常重要。 为了承受未来人工智能数据需求的引力而建造的人工智能工厂需要可扩展的基础设施，以满足从接收的数据中更快地获得洞察力的要求。 人工智能工厂基础设施最终可以决定其支持的人工智能模型的成功和商业价值。 如果通过某些云提供商进行处理，富媒体消费的快速增长可能会显著增加网络流量和相关成本。 因此，应对这种情况的企业面临双重挑战：维持高效人工智能学习模型所需的高速数据吞吐量，并管理与云端数据传输和处理相关的复杂性和费用。
仔细审查有关 AI 工厂的首篇文章中概述的四种 AI 工厂部署类型（AI-SaaS、云托管、自托管或边缘托管），可以帮助企业通过消除或减少对云带宽的依赖来管理这些复杂性。 在本地处理数据不仅消除了云带宽的问题。 它还可以完全控制敏感的训练数据集。 反过来，这使得满足监管要求（例如 GDPR、HIPAA 或 PCI DSS）变得更加容易，因为组织可以控制数据的存储、访问和处理方式，同时通过将敏感信息保存在组织的安全网络中来最大限度地减少数据暴露。
更好的基础设施意味着人工智能工厂的更多价值
AI 数据流量和应用流量以类似的方式与F5 BIG-IP 本地流量管理器 (LTM)和下一代硬件解决方案进行交互。 这意味着，就像优化传统应用流量一样，团队可以使用FastL4配置文件等工具优化他们的 AI 数据流量，从而提高虚拟服务器的性能和吞吐量。 他们可以利用TCP 优化来微调系统处理 TCP 连接的方式，这对网络性能至关重要。 他们甚至可以部署 BIG-IP 的OneConnect ，通过有效管理其 BIG-IP 系统与后端池成员之间建立的连接来提高网络吞吐量。 寻求在 AI 工厂之间分配 AI 数据流量的解决方案的组织不必费力寻找。 二十多年来，F5 一直致力于开发优化应用程序流量管理的工具，使得 BIG-IP LTM 成为处理 AI 数据提取流量的理想选择。
人工智能应用是现代应用中最现代的。 如果没有强大、多功能的交通管理解决方案，可用数据就会在现场停滞不前，人工智能模型从中获得的价值也会消失。 Rouge 拥有自己的码头和数英里的火车轨道，AI 工厂拥有像 BIG-IP 这样的 F5 解决方案。
F5 对 AI 的关注不止于此——探索F5 如何随时随地保护和交付 AI 应用。
有兴趣了解更多有关 AI 工厂的信息吗？ 探索我们的 AI 工厂博客系列中的其他内容：