借助F5和Forcepoint，保护从数据到运行时的AI安全

采用AI正加剧治理、合规和安全风险

随着政府、企业和其他组织部署生成式AI助手、智能体和自主工作流以增强竞争优势，AI应用正在加速。然而，大多数组织仍缺乏充分保护AI模型和智能体所需的可见性和运行时控制，更遑论对其进行治理。传统的安全和运营治理模式并非针对AI的数据摄取需求、不可预测的动态行为以及不断变化的暴露风险而设计。

三项常见的AI挑战

在安全治理AI以提高合规性并降低安全风险时，大多数组织都会面临三项常见挑战：

• 数据盲区：组织无法全面了解存在哪些数据、数据存储在何处，以及哪些AI系统可以访问这些数据。
• 相互脱节的控制措施：数据安全、应用安全和AI治理通常各自独立管理，导致政策意图、政策执行与AI实际行为之间存在差距。
• 缺乏运行时保障：AI系统部署后，安全团队无法验证其行为是否安全，因而增加了数据泄露或产生非预期有害输出的风险。

构建AI安全生命周期框架

随着组织实施AI，需要改进AI安全方法并降低运营风险。AI安全生命周期始于确保数据完整性，并逐步扩展到运行时安全，通过持续评估和改进的循环提升治理水平。

图1：AI安全是一个从数据完整性到运行时安全的生命周期

F5与Forcepoint携手提供解决方案，帮助组织构建持续的AI安全生命周期，使AI运营更符合合规要求并得到更有效的治理。

构建AI数据完整性

要让AI以安全、可信的方式运行，组织必须先了解自己拥有哪些数据、如何对其进行分类，以及这些数据是否已准备好供AI使用。

• 数据发现
  组织首先识别云、SaaS、端点和数据平台中的结构化与非结构化数据，为评估AI相关数据暴露情况建立事实基准。
• 数据分类
  必须采用可解释、可审计的方法对数据进行分类，以便清晰了解数据的敏感性、监管相关性和业务重要性，从而对数据进行适当治理。
• 用例优先级排序
  并非所有AI用例的风险都相同。组织必须根据数据敏感性、暴露程度和使用情况，确定哪些AI工作流带来的业务风险最大。这有助于安全团队优先关注影响较大的AI风险。

Forcepoint的AI原生数据安全态势管理（DSPM）功能涵盖数据发现和分类，可帮助组织弥合可见性与控制之间的差距，发现为AI解决方案提供支持的数据中隐藏的风险。

保护AI运行时操作

建立数据完整性后，组织需要运行时保护和遥测，以帮助安全团队在AI安全生命周期中持续验证AI行为。其中包括：

• 入口、出口和访问控制
  组织必须对实时发生的AI交互实施控制，管理哪些数据可以进入或离开AI系统，以及哪些人员或实体可以访问这些系统，确保AI系统在明确定义的边界内运行。
• 威胁检测和滥用监控
  安全团队需要持续监控AI系统中的滥用、异常行为和失陷指标，以便更快地发现问题并更清晰地了解风险。
• 模型完整性与对抗韧性
  为防止滥用，组织应保护模型免受对抗性操纵、投毒和完整性漂移的影响，使AI系统保持可靠、可预测且安全。
• 持续保障
  为满足安全负责人、董事会和监管机构的需求，必须通过遥测、策略验证，以及合规与补救措施的运营证据，持续评估AI安全性。

随着AI系统在生产环境中不断演进，F5可确保其保持韧性和可信度，并始终符合企业治理要求。借助AI护栏、红队测试和应用层保护，F5支持组织在AI应用、API、模型和智能体中测试、监控和执行策略。借助F5 AI Security Platform，组织可以检测提示滥用、防止数据外泄，并在漏洞遭到利用前将其识别出来。

借助F5和Forcepoint安全采用AI

F5与Forcepoint携手合作，为企业提供一条切实可行的AI采用路径，无需重建现有安全架构。Forcepoint在数据发现和分类方面的优势，与F5在AI应用保护、防护机制和对抗性测试方面的专业能力相结合，可帮助组织保障AI全生命周期的安全，涵盖从基础数据理解到运行时保护和持续保障。

详细了解F5 AI Guardrails、F5 AI Red Team和F5 AI Remediate，为AI提供运行时保护。

详细了解F5与Forcepoint的合作伙伴关系。

主要优势

降低AI生命周期各阶段的运营风险
发现、分类和控制进入AI应用的数据，并实施运行时策略，以降低数据泄露和有害输出的风险。

提升AI数据安全
通过发现和分类信息、监控数据使用情况并保护AI响应，防止AI摄取不当或敏感数据。

确保AI治理与合规
应用符合监管要求的AI和数据策略，同时确保运营和输出不会给贵组织带来风险。