超越OWASP十大风险：应对员工使用AI带来的安全风险

行业趋势 | 2025年2月11日

什么是OWASP？

开放式Web应用程序安全项目（OWASP）是一个致力于提升软件安全性的全球性非营利组织。OWASP以帮助组织掌握构建安全应用程序所需的知识和能力为使命，为开发人员、安全专业人员和各类组织提供资源与指南。OWASP十大安全风险是其广为人知的成果之一，这份精选清单重点列出了Web应用程序面临的关键安全风险。

最近，OWASP将关注范围扩展到大语言模型（LLM）这一新兴领域，并发布了《OWASP大语言模型应用十大风险》。该十大风险旨在识别并缓解与LLM部署和使用相关的主要威胁，为组织应对复杂的AI环境提供指导。然而，尽管它奠定了基础框架，却遗漏了一些重要的考量因素，尤其是员工使用这些强大技术所带来的风险。

超越OWASP大型语言模型（LLM）应用十大风险

在快速演进的AI领域，《OWASP大型语言模型（LLM）应用十大风险》已成为了解潜在安全风险的重要资源。然而，随着组织内部的采用日益广泛，这份清单虽有重要价值，但显然不足以全面反映组织风险管理面临的问题，尤其是在员工使用AI应用方面。

首先需要明确的是，这篇博文并非意在淡化或贬低《OWASP 大型语言模型应用十大安全风险》。该榜单涵盖提示词注入、敏感信息泄露和错误信息等关键领域。任何实施LLM应用的组织都应考虑这些切实有效的要点。

然而，随着各组织越来越多地在员工队伍中使用AI，人们可能会发现，这份OWASP十大风险中所述的风险主要适用于面向外部的应用或开发流程本身。企业仍需自行设法应对员工使用AI所带来的其他风险；更糟的是，企业甚至可能尚未意识到员工不受约束地使用AI所带来的风险。

许多组织可能都思考过以下问题：员工中有多少人正在使用ChatGPT或其他公共AI工具处理工作任务？他们是否无意中向这些模型共享了公司的敏感数据？如何监控或跟踪此类使用情况，以确保遵守数据隐私法规？随着相关法律法规不断演变，这些问题变得愈发重要。遗憾的是，OWASP清单在这方面存在不足，因为它并未明确涵盖员工使用AI所带来的独特挑战和风险。

深入了解

下面深入探讨《OWASP 大型语言模型（LLM）应用十大安全风险》中与员工使用AI最相关的几项风险，以及它们各自的不足之处。

LLM01:2025 提示词注入
- OWASP关注重点：防止恶意用户操纵AI输出。
- 遗漏之处：事实上，员工很可能并非试图欺骗AI服务，而只是想完成工作。更有可能的风险是，使用公共AI工具时意外暴露数据。
LLM02:2025 敏感信息泄露
- OWASP关注重点：防止AI在响应中泄露敏感数据。
- 遗漏之处：忽视了员工无意中将敏感信息输入公共AI模型的风险。同样，这种行为本身未必出于恶意；员工可能只是为了完成工作，在未仔细检查的情况下复制并粘贴了某些内容。
LLM03:2025 供应链
- OWASP关注重点：确保开发过程中AI模型和工具的安全性。
- 不足之处：虽然这对开发很重要，但并未解决员工可能在IT部门不知情的情况下使用“影子AI”的问题。如果阻止员工使用他们想用或需要的工具，他们可能会设法通过其他方式使用，使组织无法对其进行监控或控制。
LLM05:2025 输出处理不当
- OWASP关注重点：警惕盲目信任AI输出。
- 不足之处：缺少关于员工应如何审慎评估AI生成内容的指导。员工和组织整体应如何验证这些服务的输出？
LLM08:2025 向量和嵌入弱点
- OWASP关注重点：保护AI对数据关系的理解能力。
- 不足之处：未涵盖如何在整个员工队伍中针对AI功能和上下文数据实施基于角色的访问控制。组织如何确保只有确有需要的员工才能访问特定的公共服务和数据源？
LLM10:2025 无限制消耗
- OWASP关注重点：防止外部滥用AI资源。
- 差距：未涉及如何管理和优化全体员工对内部AI的使用。组织应如何规划和管理私有模型的相关成本？一些广为人知的AI服务按用户计费，每位用户每月的费用可能为30至60美元。按用量计费最多可将这项成本降低80%，但如果实施这种模式可能需要投入大量人员并耗时12个月或更长时间，企业该如何落地？