F5 分布式云 Web 应用扫描： 保护支持人工智能的 Webapplications

随着人工智能(AI) 不断彻底改变企业的运营方式，其通过支持 AI 服务的大型语言模型 (LLM) 集成到 Web应用中变得越来越普遍。 而这种创新也带来了新的人工智能服务和漏洞等额外风险，使新的关键服务、更敏感的数据、整体应用和业务的可靠性以及最终的用户信任陷入危险。

扩展的安全措施至关重要，而F5 分布式云 Web 应用扫描可以满足这一需求。 分布式云 Web 应用程序扫描是一种智能 Webapplication安全解决方案，旨在帮助组织应对保护现代 AI Web 应用程序不断变化的挑战。 该服务具有尖端功能——包括组织域的外部攻击面映射、动态application安全测试 (DAST) 功能以及针对 OWASP Top 10 大型语言模型 (LLM) 风险测试 AI 组件的综合套件——提供对现代 Web 应用程序漏洞的强大且持续的检测。

本博客探讨了为什么对于将 AI 和 LLM 集成到其 Web应用中的组织来说采用此服务是必须的、分布式云 Web 应用程序扫描识别的漏洞以及该服务的工作原理。

人工智能系统（尤其是 LLM）功能强大但本质上很复杂，将其引入 Web应用会以新的漏洞和攻击形式增加新的风险，其中包括：

• 提示注入攻击： 恶意行为者精心设计输入，操纵 LLM 执行非预期的操作，例如生成未经授权的输出。
• 数据泄露： LLM 通常依赖大量数据集来运行，如果没有适当的保护措施，它们可能会无意中泄露在培训或交互期间提供的敏感数据。
• 跨站点脚本（XSS）： 攻击者将恶意脚本注入支持 AI 的输入中，从而危害application、输出及其潜在用户。
• 模型幻觉： LLM 可能会产生上下文不适当或不准确的结果，从而损害用户信任并引发法律或合规问题。

分布式云 Web 应用程序扫描不仅可以发现这些问题；它还可以提供补救指导。 借助人工智能助手来帮助更好地了解每个漏洞并提供可行的建议，组织可以确保其 Web 应用程序受到保护且可用，并且用户的信任保持不变。

在现代 AI 支持的 Web应用中发现和测试 LLM 的过程始于一个自动化的四步流程，以确保全面覆盖：

1. 侦察： Web 应用程序扫描服务首先与任何面向外部的域交互，以检测和映射整个 Web 应用程序、其子域和支持基础设施（包括公开的 LLM 集成服务）。
2. 鉴别： 一旦检测到 LLM 的存在，该服务就会运行指纹算法来识别正在使用的特定模型 - 例如，Mistral 7B Instruct 或其他广泛采用的模型，包括业内 150 多种流行的 LLM。
3. 测试： 初始映射之后，将进行自动渗透测试，其中包括 OWASP Web App 和 LLM Top 10 特定威胁的广泛测试套件。 该服务利用 NVIDIA 的 garak 和 Microsoft 的 PyRIT 等业界领先的测试框架，模拟对抗性攻击以发现关键的安全问题，包括提示注入攻击、通过中继和重复中继漏洞的数据泄漏、跨站点脚本 (XSS)、关键字探测和模型幻觉、误导性声明等。
4. 报告： 扫描和测试会生成完整、详细的渗透测试报告，其中突出显示了在 LLM 和 WebapplicationTop 10 列表中发现的任何漏洞。 该报告包含可操作的补救指导，其中包含整个测试的视频和屏幕截图以及具有上下文感知洞察的漏洞，使组织能够轻松解决已发现的任何漏洞，以保护其现代的、支持人工智能的 Web 应用程序。