在AI时代，网络安全管理面临前所未有的挑战。随着企业迅速采用生成式AI和智能体AI工具，提示词注入攻击、数据泄露和合规难题等风险也日益增加。AI应用、模型和API具有动态且高度互联的特性，这不仅扩大了攻击面，也加大了监管审查力度，并带来了运营盲区。
传统的单点安全解决方案难以跟上复杂且不断演变的AI威胁形势。企业需要以前所未有的速度和规模，将这些强大的工具集成到运营中，同时确保合规、保护敏感数据并避免运营延误。
F5认为，保护AI工作流并不意味着要牺牲速度、用户体验或可扩展性。因此，我们很高兴地宣布收购CalypsoAI。作为企业AI安全领域的先行者，CalypsoAI为AI系统提供自适应保护、实时威胁监控和随时可供审计的治理。此次收购使F5能够为任何位置的每个应用、API，以及如今的AI模型和智能体提供端到端保护，率先实现这一能力。
F5与CalypsoAI携手重塑企业AI安全，帮助组织在降低风险、简化合规流程并提供高性能AI工作流的同时，安全地扩展AI应用。通过将CalypsoAI的功能引入F5 Application Delivery and Security Platform (ADSP)，企业可以获得覆盖广泛的端到端AI安全解决方案，从试点到生产阶段持续保护AI系统，同时兼顾各项关键需求。
我们与CalypsoAI首席技术官James White和F5首席创新官Kunal Anand进行了交流，探讨这项创新解决方案如何简化AI系统全生命周期的企业AI安全保障。
问：James，欢迎加入F5！能否介绍一下CalypsoAI的使命，以及是什么促成了此次合作？
James White：谢谢！CalypsoAI始终致力于帮助组织有信心且安全地采用AI。随着企业迅速扩大AI应用规模，对抗性攻击、模型异常行为、违反政策以及不断变化的合规要求等风险也日益增加。AI发展变化迅速，传统工具无法应对这些风险，导致保护和治理存在缺口。
为此，我们构建了相应解决方案，为处于各个AI成熟度阶段的AI工作流提供安全保障。其中包括通过AI红队测试主动开展攻击测试，利用运行时检查和策略执行等解决方案提供实时防御，以及通过集中式可观测性和合规管理满足《通用数据保护条例》（GDPR）和《欧盟人工智能法案》等法规标准。
加入F5后，我们能够进一步拓展愿景，将这些能力无缝整合到统一平台中，帮助企业在不牺牲安全性的前提下测试、部署和扩展AI。
问：Kunal，此次收购将如何助力F5实现推动企业成功的愿景？
Kunal Anand：AI不仅仅是另一种工作负载，更是一个可绕过传统安全防护的新型动态攻击面。数十年来，F5一直处于应用与用户之间的关键交汇点。保护AI模型、智能体和数据流，是我们核心使命的自然延伸。
我们的愿景是打造一个统一的自适应平台，为代码、API以及如今为现代应用提供支持的AI构件提供安全保护。通过将CalypsoAI的AI原生安全能力集成到F5 ADSP中，我们正将这一愿景变为现实。这并非简单地附加一项新功能，而是将AI保护嵌入应用架构本身。企业现在可以利用AI进行构建，而不只是被动应对其风险。这正是引领这场变革与仅仅参与其中的区别。
问：James，能否进一步介绍一下CalypsoAI旨在解决哪些具体挑战？
James White：随着企业着手实施新的AI技术栈，AI工作流会形成动态攻击面，带来独特的挑战：
- AI漏洞：风险包括提示词注入攻击、数据投毒和对抗性操纵，这些风险可能会损害AI系统的完整性。当前亟待应对的挑战之一是安全专业人士指出的影子AI日益增多，即未经授权使用第三方AI服务，从而加剧数据外泄和运营盲区等风险。从业人员强调，在AI的数据需求与网络安全原则之间寻求平衡，往往需要作出取舍，导致企业不得不在有效的AI与强健的安全防护之间进行选择。
- 合规缺口：GDPR和《欧盟人工智能法案》等法规要求实施集中监督并落实问责，但许多组织缺乏有效工具，难以简化AI系统的合规流程。
- 影子AI：在缺乏监控或未经授权的情况下使用第三方AI服务，会增加数据外泄和运营盲区等风险。
- 安全工具分散：许多企业依赖彼此割裂的工具或手动流程，导致效率低下并形成瓶颈。
将CalypsoAI的专用解决方案集成到F5 ADSP中，可直接应对这些挑战，并在从试点到生产的每个阶段提供主动的实时保护。
问：Kunal，将CalypsoAI引入F5 ADSP后，客户可以获得哪些主要优势？
Kunal Anand：它可提供覆盖全生命周期的AI安全能力，并立即带来三项优势：
- 部署前加固模型。可将其视为针对AI的持续自动化红队测试。CalypsoAI会向模型发送数千条对抗性提示词，在数小时而非数周内发现并修复漏洞，帮助团队更快交付更具韧性的系统。
- 保护运行时AI。这并非被动式日志扫描器，而是部署在数据路径中的实时防护屏障，可主动阻止提示词注入、数据外泄及其他攻击，同时不影响性能。我们不仅报告安全事件，更能防止其发生。
- AI统一可观测性。AI系统可能如同黑箱，造成严重的运维盲区。CalypsoAI可观测整个AI环境中的每个提示词、响应和数据交互，将模糊不清的信息转化为清晰洞察，帮助团队排查问题、检测漂移，并保留完整且随时可供审计的AI行为记录。看不见，就无法保障其安全。
问：James，CalypsoAI的方法为何能为企业带来变革？
James White：我们采用主动且持续的方法。例如，在开发阶段，我们的红队测试工具会模拟对抗性攻击，对AI系统进行压力测试，确保在部署前解决漏洞。部署后，实时监控和运行时保护系统会实时检测并响应异常行为以及数据外泄等攻击。
这种分层安全方法为企业提供所需工具，帮助企业防范从试点到生产阶段的风险、简化合规流程，并安全地加快AI创新。CalypsoAI是部署后AI模型安全领域公认的行业专家。我们的解决方案让我们能够获得衡量和基准评估方面的独到洞察，从而了解全球广泛使用的生成式AI和智能体AI模型存在多大脆弱性。我们的CASI安全指数和Agentic Warfare Resistance排行榜分别列出这两个领域排名前10的模型，帮助企业更好地了解应部署哪些模型，以及部署这些模型时面临的固有风险。
问：Kunal，为什么这项合作将为企业AI安全带来重大变革？
Kunal Anand：当前的方法行不通，企业对此心知肚明。市场上充斥着东拼西凑的细分AI安全工具，只能解决10%的问题，却增加了100%的运营开销。企业不得不充当自身安全体系的系统集成商。
这将改变现有格局，因为它采用集成方式，而不是附加组件。我们正在整合技术栈，将AI安全嵌入整个F5 ADSP。这样，AI安全将成为基础设施的原生能力，而不是又一个需要管理的设备。依托F5，该平台可按需部署在任何位置，包括任何云中的硬件、软件或SaaS。统一平台比由单点解决方案拼凑而成的技术栈更具优势。这正是它改变现有格局的原因。
在AI优先的时代，保障AI运营安全并非可选项，而是关键任务。随着F5与CalypsoAI强强联合，企业如今拥有所需的工具、治理能力和控制能力，能够在不作妥协的前提下持续创新。
关于作者
Kunal Anand担任首席产品官，负责领导F5产品组织。他负责产品愿景、战略和执行，推动开发突破性解决方案，以应对关键挑战，并为客户打造卓越体验。在此前担任首席技术与AI官期间，Kunal制定了公司的技术与AI战略和愿景。 加入F5之前，Kunal曾在Imperva同时担任首席技术官和首席信息安全官。2018年，Imperva收购了他于2013年联合创立的应用安全初创公司Prevoty，他也由此加入Imperva。在加入Prevoty之前，他曾担任BBC Worldwide技术总监。Kunal拥有深厚的创新经验和技术专长，曾在Gravity、MySpace和NASA Jet Propulsion Lab担任领导职务，负责安全、数据、技术和工程团队。 Kunal在AI和机器学习领域拥有超过15年的经验，涵盖模型训练、运用AI驱动的算法增强产品，以及设计和实施AI架构。 Kunal拥有Babson College计算机科学理学学士学位。
Kunal Anand 的更多博客文章相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。