用于威胁建模和事件响应的生成式AI

F5生态系统 | 2025年4月07日

几年前,我们大多会将“生成式AI”与艺术创作联系起来,比如绘制超现实主义肖像、作曲,甚至撰写短篇小说。如今,这些生成技术正成为网络安全领域的强大工具。颇具反差的是,曾经用于创作奇趣猫咪图片的技术,如今正在帮助我们识别复杂的威胁途径,并应对现实中的安全事件。

但生成式AI与网络安全的融合是否只是炒作?还是说,我们正站在威胁建模与事件响应新时代的门槛上,有望大幅缩短检测和缓解攻击所需的平均时间?接下来,我将阐述这一观点:生成式AI有望在识别新威胁以及编排高效、数据驱动的响应方面带来变革。不过,与任何新兴技术一样,它也存在潜在问题。让我们深入探讨。

核心论点: 生成式AI具备整合模式、预测新型攻击向量和自动执行响应策略的独特能力,将显著提升我们的威胁建模和事件响应能力,但前提是我们必须直面可靠性、伦理和数据治理方面的挑战。

网络威胁的演变速度极快,传统的基于规则或特征的系统往往难以跟上。生成式模型(如先进的大语言模型)能够检测异常,并推测未来可能出现的攻击模式,其范围远超传统启发式方法。不过,这些模型也会引入新的漏洞,例如可能因“幻觉”产生误报,或无意中生成恶意代码。我们必须在对这些能力抱有热情的同时,保持同等程度的谨慎。

超越已知特征的威胁建模

为什么使用生成式AI进行威胁建模?

传统上,威胁建模依赖于已知的攻击特征、历史模式和专家经验。但随着多态恶意软件、供应链漏洞和零日漏洞利用激增,单纯被动应对的方法已不足以应对。

生成式AI由此登场。在当今语境中,“生成式”通常指大语言模型(LLM),但也可以涵盖能够生成新数据模式的其他算法。这些模型能从海量遥测数据集中发现细微的关联,例如可疑命令序列、横向移动尝试或数据外传模式。重要的是,这些模型并不局限于明确标记为“恶意”的内容,而是学习“正常”行为的底层分布,并能标记出尚未被明确列为威胁的异常。

然而,检测异常只是第一步。如果某些行为尚未被标记为恶意或良性,可能需要将LLM(或任何生成式方法)与其他分类器或启发式检查串联使用,以确认相关行为确实具有恶意,还是仅仅不同寻常。例如,模型可能推测一种新的横向移动模式可疑,但某些组织会出于正当用途使用很少被访问的跳板机,因此在这一情境下,该异常并无危害。总的来说,生成式AI擅长发现传统特征码无法涵盖的潜在情况,但必须结合可靠的决策逻辑,无论是自动化决策还是人工主导的决策,才能确定哪些异常代表真实威胁。

实际试验:F5沙箱环境

2024年底,F5开展了一次受控模拟,以观察生成式AI模型在不断变化的威胁环境中可能有何表现。我们将来自多租户环境的匿名化日志数据输入F5内部测试环境,并有意注入此前从未出现过的新攻击模式。起初,模型产生了几次“误报”(这类模型有时会过于敏感),但经过迭代训练后,它开始以高于我们基于特征的基线系统的精确率检测异常。真正令人印象深刻的是什么?它还标记出了连我们的蓝队分析师都未曾考虑过的潜在漏洞利用方式,例如伪装在正常文件共享协议中的某些横向移动尝试。

缩短“平均修复时间”

自适应响应剧本

生成式模型不仅可用于检测,还能在事件发生时快速生成建议的响应预案。可以将其视为AI协作伙伴,监控实时日志,整合多个数据源的情报,并提出协调一致的响应计划。

例如,如果系统检测到高风险异常,就可以建议采用动态防火墙策略或隔离可疑虚拟机(VM)。系统会从以往的事件中学习,因此这些建议会随着时间推移不断改进。相较于初始设置后便很少更新的静态操作手册,这是一大进步。

大规模工具编排

近期,在各大安全会议(例如Black Hat 2024和今年新举办的AI-SecOps Summit)上,我们看到生成式AI集成方案不断涌现。这些方案聚焦于“自主式”或“智能体式”响应,由AI层实时编排多种安全工具,包括SIEM、端点保护工具和WAF。如今,多云已成为常态,因此,使用单一生成式模型协调AWS、Azure和本地环境中的威胁响应,开始显得颇具吸引力。

但问题在于:如果只是将过时或低效的流程自动化,就可能“更快地失败”,而非改善整体安全态势。如果采用AI却不重新思考基本工作流,就可能加快有缺陷流程的执行。因此,应将AI视为推动我们重新构思安全与交付方式的催化剂,而不仅仅是加快现有工作的工具。

还需注意,生成式模型能够自动执行响应,并不意味着就应该这样做。我们需要防护措施和升级处理路径,确保关键决策(例如隔离整个生产环境分段)仍有人工参与。简而言之,生成式AI为我们提供了令人期待的机会,可以挑战旧有假设,设计更高效、更具适应性的事件响应框架,前提是我们愿意从根本上更新流程,而不仅仅是加快执行速度。

2025年热门话题

  • LLM竞争仍在继续:各大云服务提供商竞相发布“安全性”更胜一筹的大语言模型(LLM),均声称采用先进的微调技术来减少幻觉并提升合规性。
  • 开源项目:社区驱动的项目(如AI-SIGS或ThreatGen)不断涌现,为安全研究人员提供开源框架,用于构建定制的生成式威胁模型。
  • 监管焦点:欧盟新的人工智能法规提案将生成式网络安全应用归为“高风险”技术,要求具备透明度,并明确数据来源。

这是一个令人振奋的时期:我们看到,越来越多的大型企业和中型企业开始采用生成式AI,希望借此跨越传统解决方案的局限。但如果组织在急于部署生成式AI时,忽略了健全的数据治理、模型可解释性和问责框架等基础环节,就可能引发问题。

幻觉、隐私与伦理困境

生成式模型的创造性推断固然令人惊叹,但也可能产生“幻觉”,凭空捏造出听似合理、实则不存在的威胁。大量误报可能让安全运营团队陷入海量无意义的告警之中。长此以往,这可能削弱人们对AI驱动系统的信任。

训练稳健的模型需要大量数据。不同地区的隐私法律可能会限制可使用的日志或遥测数据。必须清理敏感用户数据或对其进行匿名化处理,以避免严重的合规问题,并确保数据使用符合伦理要求。

我们不能忽视其阴暗的另一面:威胁行为者可以利用生成式AI撰写极具迷惑性的网络钓鱼邮件、开发新型恶意软件,或更快地发现零日漏洞,而且这些情况已经发生。在构建这些防御能力的同时,我们必须假定攻击者也在利用同样的技术增强攻击能力。

拥抱未来

展望未来,生成式AI可能发展成为每个SecOps工具集中的标准层,其集成程度将如同如今的漏洞扫描器或入侵检测系统一样紧密。随着可解释性的提升,也就是AI得出结论的过程更加透明,安全团队将更有信心让AI承担威胁建模生命周期中更多环节的工作。

我们也可能看到全球威胁情报联盟的出现,不同组织训练的生成式模型在保护隐私的同时共享部分洞察。这有望推动各行业更快、更协调地应对零日攻击。

不过,仍需重申,我们尚处于早期阶段。组织必须先投入资源,落实数据最佳实践、构建稳健的训练流水线并建立明确的治理机制,才能在关键任务场景中依赖生成式AI。

准备好重新思考安全了吗?

生成式AI有潜力颠覆传统的威胁建模和事件响应方法。通过创造性地分析模式并自动执行响应策略,它可以实现出色的速度和准确性,前提是我们妥善应对幻觉、合规和伦理保障等固有挑战。

分享

相关博客文章

SOAS 2025:目标不一致,结果难出色
F5生态系统 | 2025/05/13

SOAS 2025:目标不一致,结果难出色

AI部署缺乏协调会导致效率低下。了解如何协调安全、自动化和部署策略,充分释放AI潜力。

AI应用的应用交付与安全:探索现代AI架构
F5生态系统 | 2024/08/22

AI应用的应用交付与安全:探索现代AI架构

了解生成式AI应用和API安全如何塑造现代应用交付与安全。

借助多云网络简化超级云
F5生态系统 | 2023/09/13

借助多云网络简化超级云

超级云不只是一个流行词。它代表着一种简化愿景,以多云网络为起点,支持跨云提供商的混合IT。

2023年应用策略现状:成本与复杂性是推动多云网络发展的首要因素
F5生态系统 | 2023/03/15

2023年应用策略现状:成本与复杂性是推动多云网络发展的首要因素

多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联,为解决当今混合IT面临的挑战提供支持,因而备受业界关注。

运营演进的必要性
F5生态系统 | 2022/01/11

运营演进的必要性

在数字化成为默认模式的世界中,运维仍然过度依赖人工方式,需要不断演进,才能支持自适应应用。这一演进要求整个IT体系进行重大变革,并具备由AI赋能的自适应能力,以保持可用性、优化性能并保障安全。

多云并非简单使用多个云:让跨云衔接更轻松
F5生态系统 | 2021/10/07

多云并非简单使用多个云:让跨云衔接更轻松

随着企业转向互联云战略,工作负载的管理和保护变得日益复杂。了解F5如何满足市场对多云网络新方法的需求。