人工智能已成为网络安全的双刃剑。 虽然人工智能模型推动创新并促进行业变革,但它们的不可预测性也带来了新的风险。 无论是尴尬的聊天机器人对话,还是权限过大的代理,新的风险环境充满了潜在的声誉陷阱,可能导致媒体负面关注或损害您的客户信任。
每一次模型迭代都会引入新的漏洞。当你开始大规模赋能这些模型去调用工具或执行操作时,漏洞利用、偏见和安全问题的影响将显著加剧。 因此,我们必须加强控制和防护措施。
在其最新发布的“人工智能信任、风险与安全管理(TRiSM)市场指南”中,1 Gartner® 指出:“企业面临多重人工智能风险,其中最担心的是数据泄露、第三方风险以及不准确或不必要的输出。” 我们认为,这进一步凸显加强治理、安全和风险管理的必要性,尤其对于渴望快速大规模部署人工智能的组织来说,这已经成为关键任务。 借助 TRiSM 的管控措施,您可以实现更安全、更高效的人工智能落地。
在快速变化的环境中,F5收购CalypsoAI是一项及时且具有战略性的举措,旨在应对这些挑战。 相关能力涵盖CalypsoAI在人工智能治理以及AI系统运行时的检测与执行方面的专业技术。 通过将CalypsoAI的技术整合进F5应用交付和安全平台 (ADSP),F5确立了业界领先地位,提供不仅能降低AI风险,还能帮助企业以灵活、安全且可信赖的方式大规模部署AI的全面解决方案。
人工智能市场正在以前所未有的速度演进,基础大型语言模型(LLM)和专用小型语言模型(SLM)正在各行业迅速广泛应用。 在这种快速变化的环境中,依赖传统工具的组织将难以实现规模化、保持灵活性并控制成本。
正如 Gartner 所指出的,“随着人工智能市场的迅速发展和变化,企业必须保持对任何单一 AI 模型或托管提供商的独立性,从而确保可扩展性、灵活性、成本控制和信任。”1
我们认同保持独立于任何单一AI模型或托管提供商的重要性,因为随着AI能力拓展到更多新应用,你需要灵活应对并建立信任。
F5 通过整合 CalypsoAI 的实时安全检测和风险评分,为各种来源的模型提供直接响应。 借助 CalypsoAI 解决方案支持的 F5 ADSP,您可以自信地采用多样化的 AI 工具,同时掌控模型和应用的治理。 这种自主性帮助您摆脱对特定 AI 供应商的依赖,确保 AI 部署具备未来的可扩展能力。
根据 Gartner 的 AI TRiSM 市场指南,1技术能力分为四层,且都基于代表传统技术保护的第五层:
我们认为,该框架通过验证人工智能系统是否符合您的组织政策、法规和道德标准,确保其可信赖且安全。
Gartner AI TRiSM 技术功能
该图表由 Gartner, Inc. 发布,是一份更大研究报告的一部分,应结合整份报告进行评估。 您可以向 F5 索取 Gartner 报告。
收购 CalypsoAI 将增强 F5 在应用安全领域的领导地位,特别是在人工智能方面,帮助企业应对日益严峻的内外威胁,包括不法分子利用错误引导的 AI 行为以及 AI 本身不可预测的表现。 CalypsoAI 在 AI 治理和运行时执行上的能力,正好补充了 F5 ADSP 在信息、基础设施和传统保护技术方面实行企业级控制的优势。 双方优势结合,旨在覆盖 AI TRiSM 的各个层面,1实现人工智能信任与风险管理的全方位保障。
CalypsoAI 在金字塔顶部两层——AI治理以及运行时检查和执行中表现出色,而F5 ADSP通过支持信息治理、网络基础设施及传统防护层,完善并强化了这些能力。
CalypsoAI 通过模型目录和风险评分系统提升 AI 治理,实现企业 AI 资产的统一展示。 CalypsoAI 的治理能力聚焦负责任的 AI 原则——问责、透明和安全。 我们持续评估模型状态和性能,确保 AI 结果符合监管要求,如《通用数据保护条例》(GDPR)和欧盟 AI 法案,强化道德和信任驱动的 AI 实践。
CalypsoAI 利用运行时引擎确保 AI 应用中的策略一致性。 这些机制对 AI 交互进行实时监控,精准识别异常和违规行为。 CalypsoAI 的即插即用框架根据模型表现和智能威胁情报调整防御,保障企业 AI 部署的主动与实时安全。 基于这些洞察,运行时检测有效应对恶意提示、偏见风险及合规挑战,助力企业领先应对新兴威胁。
F5 ADSP 以收购 LeakSignal 等公司为基础,构建了强有力的信息治理,助力增强 F5 BIG-IP SSL Orchestrator (SSLO) 等产品中的数据保护,SSLO 在精准识别传输数据类型及目标方面发挥关键作用。 SSLO 支持部署 AI 模型的组织执行策略驱动的管控,主动拦截数据,防止数据暴露,从而显著降低风险。
CalypsoAI 集成了先进的基于角色的访问控制(RBAC)和数据丢失防护(DLP)功能,与 F5 更广泛的生态系统相协调,在 AI 运行时实现动态数据分类与发现。 通过 F5 BIG-IP 访问策略管理器(APM),您能够对用户、设备及 API 实施统一的访问控制,构建 AI 驱动交互的安全基础,同时满足 AI 相关的治理需求。
F5 ADSP 的 Web 应用和 API 保护(WAAP)解决方案在保障 AI 应用核心基础设施安全方面发挥着关键作用,而这一切始于构建一个稳固可靠的 API 生态系统。 虽然人工智能本身功能强大且先进,但它依赖的高速通路依旧是组织长期以来努力发现并保护的 API。 CalypsoAI 的运行时强制措施通过减少 AI 交互中的漏洞补充了 WAAP,F5 则利用专为 API 密集型生态系统设计的发现与保护工具,进一步巩固这一层防护。
我们与戴尔、NetApp 和 MinIO 等领先存储厂商合作,将安全性覆盖到数据工作流,确保您能够实现可扩展且高性能的数据存储与传输,支持包括 RAG 在内的 AI 模型训练与推理周期。 同时,借助与 NVIDIA 的合作,我们通过 F5 BIG-IP Next for Kubernetes 持续推动 DPU 发展,简化 GPU 上的应用交付与部署,并为推理和训练过程引入全新的安全控制。
将这些技术进步整合进 F5 ADSP 平台,帮助您降低整体拥有成本,同时打造可支持企业规模扩展的未来 AI 基础设施。
传统技术层是企业应用安全的核心,F5 BIG-IP 和 F5 WAAP 解决方案为应用、数据及基础设施提供坚实的防护,保障其稳定性和韧性。
凭借先进的安全工具,我们解决了多种威胁——从大规模和定向的分布式拒绝服务(DDoS)攻击,到机器人流量和复杂的应用层威胁。 核心是强大的 Web 应用防火墙(WAF),能够有效抵御 SQL 注入、跨站脚本(XSS)及其他 OWASP 主要威胁。 这层层防护构建了全面的安全体系,确保从人工智能操作到传统工作负载的全方位端到端保护。
人工智能既带来变革性机会,也带来重大网络安全风险。 它固有的不可预测性,再加上恶意行为者的不断利用,正在形成一个挑战传统安全方法的复杂威胁环境。
随着企业迅速采用 AI 创新,建立信任与责任变得尤为关键。 F5 战略收购 CalypsoAI,助力企业自信拥抱 AI,同步保障安全、隐私与运营掌控。 通过分层 AI TRiSM1 解决方案,F5 为 AI 应用安全树立新标杆,助您以信任驱动创新。
1 Gartner,《人工智能信任、风险与安全管理市场指南》,2025 年 2 月 18 日。
GARTNER 是 Gartner, Inc. 及其关联公司在美国及国际上注册的商标和服务标志,现经授权使用。 版权所有