为AI之旅赋能护航

借助AI/ML增强API能力并提供保护,降低生态系统复杂性,同时保障混合云和多云环境中每个应用及AI工作负载的安全并优化其性能。

解决方案概述

借助F5分发、优化并保护AI工作负载

利用AI/ML增强API能力并为其提供保护,降低生态系统复杂性,同时保障混合云和多云环境中每个应用及AI工作负载的安全并优化其表现。

保护AI工作负载


主要优势

灵活部署AI工作负载,不受地点限制

F5支持在从数据中心到边缘的各类环境中,灵活地在靠近数据的位置交付AI,以充分提升准确性、洞察力、性能、成本效益和安全性。

几分钟内自动连接到分布式AI工作负载

通过抽象底层基础设施,自动连接跨环境分布的AI工作负载,消除复杂性,释放业务敏捷性与创新潜力。

为所有应用提供一致的安全保护

连接、保护和管理云端、边缘或F5全球网络中的应用和工作负载。

AI工作负载的全局流量管理

对于业务遍布全球的组织,F5的全局流量管理解决方案在优化AI工作负载部署位置和确保数据主权方面发挥着关键作用。

提升AI工作负载性能

F5的应用加速解决方案专为优化AI工作负载性能而设计,包括高效共享GPU资源。

AI驱动的分析

F5利用AI和ML的能力,提供有关AI工作负载性能和安全性的可操作洞察。

深入生成式AI:了解关键资产

数十年来,大多数组织不得不持续改进基础设施,以支持新的应用和工作负载。随着新兴大语言模型(LLM)以及OpenAI的ChatGPT等生成式人工智能(AI)应用快速发展,这一演进仍在继续。AI工作负载代表了现代应用的前沿形态,也为组织带来了双重挑战:优化这些关键业务AI操作的性能与安全性。随着生成式AI和机器学习(ML)应用不断重塑各行各业,就AI工作负载的分布和治理作出明智决策已变得至关重要。

生成式AI涵盖多项关键资产,共同支持其功能和效果。在AI应用架构中,Kubernetes、应用程序编程接口(API)和多云环境之间的交互,对于构建协同统一且可扩展的系统至关重要。从整体来看,Kubernetes是优选平台,承担编排职责,管理AI应用中各组件的部署、扩缩容和监控。API充当通信渠道,使这些组件能够无缝交互。多云环境则支持为每项工作负载和用例选择适宜的运行位置,以确保性能可预测、安全性一致。

Kubernetes:生成式AI平台

Kubernetes作为广受青睐的生成式AI平台,持续演进,为容器化提供基础,确保AI模型、数据处理流水线及其他服务能够得到高效管理和扩展。它支持动态分配计算资源,确保性能和资源利用率得到优化。云原生Kubernetes有助于在混合云和多云环境中无缝部署AI工作负载。实践表明,Kubernetes充满活力的生态系统正成为加速AI创新与应用的强大力量。行业领军企业、开源项目和云提供商之间的协作正推动AI技术取得突破。

API:连接AI组件的纽带

API是AI架构的关键纽带,使不同组件和服务能够相互通信。API连接AI应用的各个部分,使其能够交换数据和指令。例如,AI模型可以通过API向云端存储服务请求数据,或将预测结果发送给其他组件以供决策。此外,OpenAI插件通过API让ChatGPT能够与开发者定义的API交互,从而进一步增强ChatGPT的能力。

多云网络:连接分布式环境中的AI工作负载

传统数据中心往往难以满足先进AI工作负载的严苛要求,其容量以及对现代数字环境的适应性因此受到关注。AI模型训练和微调产生的海量数据,使“数据引力”成为采用AI的企业需要重点关注的问题。随着存储库中的数据量不断增长、数据效用不断提升,数据引力随之产生。最终,复制或移动这些数据会变得繁重且成本高昂。因此,数据会自然地吸引服务、应用和更多数据向其所在的存储库汇聚。数据引力从两个方面影响生成式AI:一方面,它限制了用于训练和生成的数据的可用性与可访问性;另一方面,它也使数据对于改进和提升生成式AI模型及其输出结果变得更加必要、更具价值。

多云环境让私有且高度分散的数据更易于利用,因此已成为新一代AI驱动型应用的基础。多云环境支持AI应用利用不同云提供商的优质资源,进一步增强架构的灵活性和韧性。多云还能降低云供应商锁定风险,防范潜在停机,并提供迁移机会。Kubernetes与API相结合,确保这些多云环境能够得到高效管理和编排,简化AI工作负载在不同云平台上的部署和扩缩容。

多云方案在提供灵活性和可扩展性的同时,也带来了数据一致性、安全性和合规性方面的挑战。组织需要确保工作负载和数据能够在各个云、本地数据中心之间或数据湖内安全传输。为确保数据主权,组织需要满足特定的行业和政府监管要求,同时避免严重影响AI响应时间。多云环境也有助于应对这一挑战,让全球性组织能够使用不同地理位置的云服务,从而帮助满足监管合规要求。考虑到每个AI模型在构建时都需要访问庞大的数据库,以实时针对用户查询提供正确的推理结果,而训练数据又可能位于任何地方,解决这一问题并非易事。

理想情况下,企业应采用统一解决方案,将一致的应用和安全服务扩展至公有云、私有云、原生Kubernetes和边缘环境,以满足AI工作负载对连接、安全性和可扩展性的严格要求。

AI工作负载:网络犯罪分子的新攻击面

由于AI工作负载应尽可能靠近其所需数据部署,因此往往分布在多个云中,这给维持集中可见性和控制带来了挑战。在本已分布式部署的应用环境中添加生成式AI工作负载,会进一步扩大企业的威胁面。

需要认识到,虽然AI能为采用它的应用带来巨大价值,但企业要充分发挥AI的优势,就必须采取必要措施,优化AI工作负载并保障其安全。这不仅需要提高AI工作负载的效率,还需要管理复杂的Kubernetes环境,实现API的无缝、安全集成,并有效管理多云网络。

生成式AI和其他AI工具包正成为网络犯罪分子的主要攻击面。网络犯罪分子经常利用AI发动更新颖、更复杂的攻击,以获取个人身份信息(PII)和其他机密数据,其中包括可能泄露商业秘密或知识产权(IP)的训练中数据。安全运营团队必须能够检测并阻止对抗性攻击,包括对AI和机器学习模型的恶意操纵。从制作几乎难辨真伪的深度伪造内容,到发起复杂的钓鱼邮件活动以传播勒索软件攻击,网络犯罪分子既将AI作为攻击目标,也利用AI谋取非法利益。

影子AI:未经授权使用的生成式AI

AI环境中的另一个关键安全问题是影子AI。与影子IT类似,影子AI是指在企业治理范围之外使用AI工具。当员工绕过IT部门,无视旨在保护企业的政策和流程时,影子AI就会成为问题。员工这样做,通常是因为他们认为这些政策和流程会拖慢创新,妨碍他们利用AI开展开发工作并提高生产力。随着组织内员工对生成式AI的使用激增,加之缺乏适当治理,以及学习模型经常使用敏感数据,影子AI显著增加了个人身份信息、企业知识产权及其他企业敏感数据泄露的风险。组织必须建立相应机制,防范影子AI带来的风险。

AI本质上只是一种功能强大的现代应用

AI看似神奇,但并非魔法:它其实与许多其他应用一样,只是一种功能强大的现代应用。LLM也只是能够理解自然语言的算法,通过从大型数据模型或数据湖中学习,利用机器学习来理解、总结、创建和预测新内容。

在这一快速发展的领域,F5提供集成并运用AI的解决方案,以AI赋能并保护AI,助力您的AI运行并为其提供防护。F5提供业界领先的交付、性能和安全服务,覆盖整个分布式应用环境。

无论您是在仓库作业区还是企业办公室运行AI工作负载,F5的统一解决方案都能将一致的应用和安全服务扩展至公有云、私有云、原生Kubernetes及边缘环境,帮助降低AI复杂性,同时提供出色的扩展能力和性能。安全地互连分布在不同位置、环境和云中的AI应用组件,充分发挥这一全新现代应用范式的优势。

借助F5增强并保护基于AI的应用

F5为现代AI工作负载提供支持和安全保障,凭借高性能和全面的安全防护,确保工作负载在多样化的AI生态系统中分发并受到保护。无论训练和推理模型分布在何处、以何种方式分布,也无论需要这些模型的用户和应用位于何处,F5的AI工作负载交付与安全解决方案都能将两者安全连接起来。获得可预测的性能,以及支持大规模训练、优化、部署和管理AI与机器学习模型的统一底层数据结构。借助F5,以更高的效率和更强大、更深入的安全防护,轻松将数据转化为洞察。

F5为现代AI工作负载提供动力和安全防护,以高性能和全面的安全性,确保工作负载在多样化AI生态系统中的分发与保护。


主要功能

统一管理解决方案

通过统一控制台,实现多云网络连接、应用和API交付,简化管理,并保障AI应用安全。

安全的多云网络连接

不依赖特定云的互联架构,可连接位于任意位置的应用、API和AI工作负载

分布式入口与推理

用于控制、扩展、保护和监控数据中心、云端及边缘环境中的LLM训练、微调和推理的抽象层。

API和LLM防护

动态发现API和大语言模型(LLM),并提供自动化运行时保护。

为您的AI之旅提供动力与保护

灵活部署AI工作负载,不受地点限制

F5支持在从数据中心到边缘的各个位置灵活交付AI,使其贴近数据,以充分提升准确性、洞察力、性能、成本效益和安全性。

F5® Distributed Cloud Network Connect和F5®Distributed Cloud App Connect支持在私有云或数据中心部署训练模型,同时提供与云端或边缘数据源的安全连接。

作为F5® Distributed Cloud Services产品组合的一部分,Distributed Cloud Network Connect通过基于SaaS的工具,提供跨任意环境或云提供商的三层网络连接,涵盖本地数据中心和边缘站点。它提供端到端可见性,自动配置链路和网络服务,并支持在所有站点和提供商之间创建一致的、基于意图的安全策略。

F5® Distributed Cloud App Stack通过统一的生产级Kubernetes,轻松部署、管理和保护AI工作负载,适用于私有云、公有云以及边缘站点等各种位置。它通过内置GPU支持,为本地边缘的AI模型提供支持,保障高性能和可用性。Distributed Cloud App Stack利用集中式工作流,在任意数量的边缘站点交付应用和安全服务,简化AI/LLM推理应用的部署。

此外,F5® NGINX® Connectivity Stack for Kubernetes为在本地和云端Kubernetes中运行的AI/ML工作负载提供快速、可靠且安全的通信。NGINX Connectivity Stack for Kubernetes在单一工具中集成了Ingress控制器、负载均衡器和API网关功能,可在大规模环境中提高正常运行时间、防护能力和可见性,同时降低复杂性和运营成本。NGINX Connectivity Stack for Kubernetes通过一系列工具和集成,帮助扩展、观测、治理和保护从边缘到云端的AI工作负载,在改善客户体验的同时降低复杂性、提高正常运行时间并增强实时可见性。

随处保护AI工作负载

通过单一控制点简化WAF、机器人、API和DDoS防护,助力SecOps保护连接AI工作负载的应用和API接口,并应对针对AI模型和环境的对抗性攻击。

全面了解混合云和多云技术栈中的所有AI工作负载,对于应对影子AI使用等危及专有数据安全的问题至关重要。在已呈分布式部署的应用环境中添加生成式AI工作负载,自然会扩大企业的威胁面,为针对模型的拒绝服务(DoS)攻击、训练数据投毒和API漏洞利用创造机会。

利用F5® Distributed Cloud Web App and API Protection (WAAP)保障数据模型的安全并实施治理,防止知识产权被用于非预期用途。借助“点击即启用,随处可运行”的安全策略,实现一致且可重复的防护,以及全球范围的覆盖与策略执行。采用API驱动的工作负载保护方式,可改善网络团队、安全运营团队与开发人员之间的协作。

借助Distributed Cloud WAAP,组织可以简化实现有效AI工作负载安全防护的过程,同时不影响持续的业务创新。这包括结合管理与强制执行功能,为API运行时分析和保护提供全面的方法。轻松有效地监控所有API端点和应用路径,发现并跟踪未知API或影子API,并通过持续检查和模式强制执行来保护这些API。F5的API安全解决方案可保护支持AI特定交互的API,降低与未经授权的访问、数据泄露、滥用和严重漏洞相关的风险,从而确保应用及任何关键AI工作负载顺畅、安全地运行。

借助能够适应攻击者工具调整的平台,抵御恶意机器人,包括试图操纵LLM的机器人;该平台覆盖全球数千个高流量应用和AI工作负载。通过出色的设备和行为信号分析,识别并缓解自动化恶意机器人攻击,实现高效的机器人防护。此外,借助F5的Distributed Cloud Network Connect,确保数据传输安全。通过F5,获得全面可见性、动态发现、基于AI的洞察和自动修复能力。

几分钟内自动连接分布式AI工作负载

通过抽象底层基础设施,自动连接跨环境分布的AI工作负载,消除复杂性,释放业务敏捷性与创新潜力。

F5® Distributed Cloud Secure Multi-Cloud Network (MCN)可降低管理和部署AI工作负载的复杂性。自动连接分布在云、多云和边缘环境中的AI工作负载,无需操心底层基础设施。获取整合并关联各工作负载数据的分析结果,优化AI项目的价值。建立集中控制点,管理任意位置的任何应用或AI工作负载的策略。

对于运行企业级AI应用且需要强大企业级解决方案的客户,F5的Distributed Cloud Secure MCN可帮助他们将应用安全与服务扩展至公有云和混合云部署、原生Kubernetes及边缘站点。

F5® Distributed Cloud Secure Multi-Cloud Network (MCN)
图1:F5解决方案安全连接AI工作负载,并将推理分发至边缘

为所有应用提供一致的安全防护

连接、保护和管理云端、边缘或F5全球网络中的应用和工作负载。Distributed Cloud App Stack简化AI训练应用的管理、部署和交付。只需简单点击几下,即可向站点推送软件和操作系统更新。

提升AI工作负载性能

AI工作负载,尤其是与生成式AI相关的工作负载,需要大量计算资源。F5的应用加速解决方案专为优化AI工作负载性能而设计,包括高效共享GPU资源。通过提升效率、降低延迟和缩短响应时间,F5加快AI预测结果的交付,确保流畅的用户体验,并支持AI驱动型应用中的实时决策。

AI工作负载的全局流量管理

对于业务遍及全球的组织,F5的全局流量管理解决方案在优化AI工作负载部署位置和确保数据主权方面发挥着关键作用。这些解决方案将AI工作负载高效分配到分布在不同地理位置的数据中心和云区域,在提升性能的同时,确保关键任务型AI应用和AI驱动型应用的高可用性与冗余。

AI驱动的分析

F5利用AI和ML的强大能力,提供有关AI工作负载性能和安全性的可操作洞察。通过持续监控和分析流量模式及应用行为,组织能够基于数据制定工作负载部署和资源分配决策,确保AI工作负载高效运行。

F5利用AI为您的AI提供支持和保护,带来行业领先的性能,以及覆盖整个分布式应用环境的交付和安全服务。

结论

借助F5赋能并保护您的AI

人工智能正不断融入现代商业与生活的方方面面,生成式AI则走在这一进程的前沿。为支持这一发展,企业必须确保其基础设施能够利用AI的优势,尽可能减少卡顿、延迟和风险。在应对AI(包括生成式AI和AI工作负载)的复杂挑战时,F5始终是值得信赖的合作伙伴,助力企业在广阔的生成式AI生态系统中,充分发挥AI的非凡潜力并利用其优势。

F5以AI技术为您的AI提供动力与保护,带来行业领先的性能,以及覆盖整个分布式应用环境的交付和安全服务。无论是在仓库现场还是企业办公室运行AI工作负载,都能让员工和合作伙伴借助强大的工具获得新洞察、提升效率。依托海量大数据遥测信息驱动的强健安全措施,客户能够主动缓解不断演变的AI风险。这有助于组织保持或跻身创新前沿,并为应对快速演进、带来变革的技术环境中的挑战与机遇做好准备。

资源

精选

AI在企业中的重要性及如何构建安全的多云网络

了解AI如何提升企业安全性和效率,以及为什么需要构建安全的多云网络,才能有效采用AI。

了解AI安全