影子AI:潜藏在企业内部的隐形安全风险

F5生态系统 | 2025年7月16日

人工智能已成为不可逆转的趋势。它在生产力、创新和经济影响方面带来的提升,正在改变各团队的业务运作方式。但对于采用AI的组织而言,这些收益也伴随着严重风险。其中亟须应对的风险之一就是影子AI。

影子AI是指员工在IT和安全团队不知情或未批准的情况下擅自使用AI工具的行为。这种做法虽然仍相对较新且不断演变,却正迅速成为重大的安全与合规威胁。

“尽管影子AI造成的具体经济损失仍在统计中,但其潜在危害已十分明显,而且还在不断加大。”

影子AI是影子IT快速发展而来的分支。影子IT是企业长期面临的挑战,指员工在企业内部部署未经批准的软件、云服务或系统。影子IT已给治理和安全带来压力,而影子AI又增加了一层危险的复杂性。未经批准的软件会将数据置于IT部门无法掌握的位置,AI工具的影响则更进一步。公共模型可能会将员工输入的内容用于训练,使专有信息一旦泄露,实际上便难以挽回。

影子AI的几个示例:

  • 软件工程师使用个人ChatGPT、Gemini或Copilot账户生成样板代码、进行语言翻译、重构旧代码或编写测试用例时,无意中将专有代码粘贴到公共模型中。这些代码可能被存储、记录或泄露。更糟糕的是,AI生成的输出可能包含不安全的逻辑、虚构的API或违反许可条款的代码。
  • 一名传播专员将一份机密战略备忘录上传至AI工具,用于生成摘要或起草面向客户的信息。这些专有内容如今存放在第三方服务器上,不在IT部门的监管范围内。
  • 一名销售代表安装了一个Chrome扩展程序,该程序利用AI自动生成客户开发邮件,并连接其电子邮件和CRM系统。这可能导致数据泄露、违反内部政策,以及不符合GDPR或《加利福尼亚州消费者隐私法》等法规要求的风险。

这些示例仅仅是开始。每天,各行各业都在上演无数其他影子AI使用场景。这一问题涉及的范围如此之广,以至于Gartner®预测:“到2027年,75%的员工将在IT部门的视野之外获取、修改或创建技术,而2022年这一比例为41%。因此,自上而下、高度集中的网络安全运营模式将失效。首席信息安全官必须转而将网络安全重构为精简、集中的职能,为分布在企业各处、以联邦式架构协作的广泛专家群体和融合团队提供支持。这将使网络安全能力扩展至企业边缘,更贴近技术和风险决策的制定与执行之处。”1

提示注入与数据泄露:主要关注问题

尽管影子AI造成的具体经济损失仍在统计中,但其潜在危害已十分明显,且还在不断加大。组织若不立即采取行动,就可能面临严重事件、监管风险以及客户信任受损的问题。

提示词注入是尤为令人担忧的漏洞之一。在此类攻击中,攻击者直接提供恶意指令,或将其隐藏在AI处理的内容中,导致模型绕过限制、泄露敏感数据或执行非预期操作。AI模型往往默认信任输入,因此容易受到此类漏洞利用攻击。成功的提示词注入可能诱使AI泄露内部数据、破坏自动化流程或损害决策系统。

另一个主要隐患是数据泄露,尤其是个人身份信息(PII)、受保护的健康信息(PHI)、银行信息和财务记录、源代码和专有知识产权、凭据和访问密钥或客户记录的泄露。

监管不合规风险让问题更加复杂。未经授权使用AI很容易违反GDPR、HIPAA、PCI DSS以及《萨班斯-奥克斯利法案》等法规和标准,使企业面临处罚和声誉受损的风险。

为什么加密通道会隐藏未经批准使用的AI

影子AI之所以难以管控,部分原因在于它与合法流量一样,都采用加密方式传输。如今,几乎所有Web流量都通过TLS/SSL连接传输,AI工具也不例外。无论是浏览器标签页中的聊天机器人,还是自动化流程背后的API调用,都通过加密会话传输数据。

这种加密方式保护了隐私,但也给传统网络安全工具带来了盲区。无法检查加密会话的防火墙只能看到员工连接了某项AI服务,却无法判断员工是在询问午餐推荐,还是将客户数据库粘贴到了提示词中。传统的数据丢失防护工具也面临同样的局限:敏感信息通过这些工具无法读取的加密会话流出组织。

这导致组织的安全态势出现缺口。安全团队无法可靠地检测影子AI的使用,更谈不上阻止。要弥补这一缺口,就需要获得对加密流量本身的可见性,在提示词和数据实际传输的节点进行检查,并有选择地实施检查,以免影响隐私和性能。

应对监管新形势(欧盟《人工智能法案》与合规成本)

监管环境也在趋严。欧盟《人工智能法案》[he3.1]正分阶段实施:禁止性规定已自2025年初起适用,针对通用AI模型的义务自2025年8月起适用,包括透明度要求在内的其他规定自2026年8月起适用,而针对高风险AI系统的义务将于2027年和2028年陆续适用。对于情节最严重的违法行为,罚款可高达3,500万欧元或全球年营收的7%,以较高者为准。员工接入业务流程的未经审核的工具同样受这些规则约束,无论是否有人意识到该法律适用于此。

在美国,NIST AI风险管理框架正逐渐成为展示负责任AI治理的通行指南。该框架虽为自愿采用,但审计人员、保险机构和企业客户越来越期望组织遵循该框架。事件发生后,监管机构会问一个简单的问题:组织是否知道内部正在使用哪些AI,是否对这些AI的使用进行了治理?影子AI的存在,使组织只能如实回答“不”。

这些成本可以量化。IBM《2026年数据泄露成本报告》发现,43%的安全事件涉及影子AI,高于一年前的20%。这些数据泄露事件的平均成本为539万美元,其中约五分之一招致监管罚款。

一些公司选择禁止使用,但这有效吗?

为应对这些风险,一些组织已禁止员工使用未经批准的生成式AI工具。例如,三星出于对内部敏感信息泄露的担忧,于2023年率先禁止使用ChatGPT及类似的AI聊天机器人。此后,多家银行及其他企业也发布了类似的限制措施或警告。

然而,绝大多数行业专家不建议采取一刀切的禁令。

为何治理比禁令更可取

尽管确实存在风险,行业分析师仍建议采取预防性政策和治理框架,而非全面禁止。大多数组织尚未做到这一点。IBM的2026年研究[he5.1]显示,在遭遇数据泄露的组织中,68%缺乏用于管理AI或检测影子AI的AI治理。即使在已制定治理政策的组织中,也只有29%会定期审查是否存在未经批准使用的AI。

禁令往往适得其反。禁令难以执行,常常抑制创新、打击士气,还可能让AI使用变得更加隐蔽,使安全团队更难发现和管控。

正如一位IT负责人在一场Gartner Peer Community讨论中谈到禁止使用AI工具时所说:“禁令根本行不通。即使没有相关政策,这种做法也会损害创新,并向员工和外界传递有关我们组织的错误信息。”

组织应采取哪些替代措施

以下是组织现在就可以采取的几项切实可行的治理措施:

  1. 制定明确的AI使用政策
    明确哪些工具获准使用、应如何管理数据、哪些用例可以接受,以及在哪些环节设置了防护措施。清楚说明允许做什么,以及允许的原因。
  2. 维护经过审核的AI工具清单
    从数据隐私、安全性和监管合规性方面评估工具。鼓励员工使用这些工具,而非未经审核的平台。例如,使用ChatGPT等工具的企业版,配备日志记录和数据丢失防护功能,并采用集成到公司平台中的内部AI助手。
  3. 培训员工,提升风险意识
    帮助员工了解各种风险,包括数据泄露、AI幻觉生成的内容以及合规问题。大多数不当使用行为并非有意为之。
  4. 监控并适时调整
    考虑通过符合伦理和法律要求的监控来检测未经授权的使用行为。以教育而非惩罚的方式应对。随着AI能力的变化,持续调整相关政策。

F5如何保护AI工作负载并缓解影子AI风险

技术能提供可扩展的解决方案吗?当然可以。

F5 AI Gateway部署在用户、智能体与其依赖的AI服务之间,对流经网关的每条提示词和响应进行数据泄露检测与防护,在敏感数据(源代码、凭据、客户信息)到达外部模型之前将其拦截。F5的加密流量可视化解决方案可将发往AI服务的流量引导至网关进行检查。与这些解决方案配合使用时,防护范围可扩展至隐藏在加密通道中的影子AI工具(大多数AI API和SaaS平台默认使用加密通道)。

AI Gateway还可应对影子AI的新形态:在已获批准的工具内部运行的未经审查的智能体、插件和MCP服务器。它管控用户和智能体可以访问哪些模型和工具,并为每次交互保留完整的审计记录。结合上述治理措施,AI使用策略便能得到切实执行。

常见问题

影子IT与影子AI有何区别?

影子IT指员工未经IT部门批准使用的任何技术,包括未经批准的应用和个人云盘。影子AI是其中增长尤为迅速的分支,指未经批准使用AI工具。两者的关键区别在于数据的去向和用途。普通影子IT将数据置于IT部门无法掌握的位置;AI工具还可能摄取数据,用于提示和训练,使数据暴露实际上难以逆转。

IT团队如何检测加密流量中未经批准的AI使用?

IT teams detect unsanctioned AI in encrypted traffic by gaining visibility into that traffic itself. In practice, that means selectively decrypting and inspecting TLS sessions at network chokepoints and monitoring for connections to known AI services, with data loss prevention applied to prompts in transit. Without that visibility, security teams may see that an employee connected to an AI service, but not what data was shared, and AI features embedded in other SaaS apps may not be visible at all.

为什么全面禁止使用AI难以奏效?

全面禁用AI往往收效甚微,因为禁令很少能真正阻止使用行为。切实感受到生产力提升的员工会继续通过个人设备和个人账号使用AI,而安全团队完全无法掌握这些使用情况。以获批工具为基础开展治理,可让AI使用保持在可监测、可管理的范围内。

F5 AI Gateway如何防止提示词载荷中的数据泄露?

F5 AI Gateway实时检查提示词和响应,识别载荷中的敏感数据(如访问密钥、客户记录或一段专有代码),并在这些数据到达外部模型之前进行拦截或遮盖,从而防止提示词载荷中的数据泄露。策略控制还从源头上限定用户和智能体可以访问哪些AI模型和工具。

GARTNER是Gartner, Inc.及/或其关联公司在美国及其他国家/地区的注册商标和服务标志,本文已获授权使用。保留所有权利。

1Gartner,《Maverick Research:CISO必须转变角色,否则将被淘汰》,2025 年 6 月 19 日

分享

关于作者

相关博客文章

F5纪念2021年世界艾滋病日
F5生态系统 | 2021/12/01

F5纪念2021年世界艾滋病日

值此世界艾滋病日,F5郑重承诺,将与员工、客户、社区和合作伙伴共同努力,消除社会对HIV感染者仍然存在的污名与偏见。

Thingbot正转变为攻击平台
F5生态系统 | 2018/11/29

Thingbot正转变为攻击平台

Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究,并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用,还被转变为攻击平台,这意味着攻击者可以更充分地利用这个必然增长的市场。

借助F5全新Quick Start,在AWS上快速开展业务
F5生态系统 | 2018/11/20

借助F5全新Quick Start,在AWS上快速开展业务

在AWS re:Invent开幕前,我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。

为什么声明式模型对NetOps自动化至关重要?
F5生态系统 | 2018/04/30

为什么声明式模型对NetOps自动化至关重要?

为什么声明式模型对NetOps自动化至关重要?阅读F5博客,了解基础设施即代码如何简化网络扩展。

开源聚焦:F5基础设施即代码与多云可管理性
F5生态系统 | 2017/11/16

开源聚焦:F5基础设施即代码与多云可管理性

开源聚焦:基础设施即代码与多云。阅读博客,了解模板和Terraform如何简化F5应用服务的部署。

破解IT“无解困局”的答案:私有云
F5生态系统 | 2016/09/12

破解IT“无解困局”的答案:私有云

破解IT“无解困局”的答案:私有云。阅读F5博客,了解本地部署的敏捷性如何化解安全与速度难以兼顾的问题。