F5 Workforce AI Security，管理和监控AI使用情况
从容管理和监控员工对AI的使用
AI的使用在提高生产力的同时，也增加了安全风险
在贵组织的某个角落，一项任务即将逾期，一名员工正准备将机密数据粘贴到AI工具中，以完成演示文稿。短短几秒内，敏感信息就可能脱离已获批准的管控范围，既没有策略评估所提交的内容，也没有审计跟踪记录此次交互。在许多情况下，任何安全或治理系统都不会记录这一事件。这并非因为员工无视管控措施，而是因为大多数管控措施在设计时并未考虑AI的实际使用方式。
因此，问题不在于是否会使用AI，而在于能否了解AI的使用方式、对其进行治理并确保合规，同时避免迫使团队采用风险更高的变通方法。
随着AI应用加速普及，安全盲区也随之增多，尤其是影子AI带来的盲区。影子AI是指在IT部门不可见或无法控制的情况下，未经批准使用AI工具。本白皮书探讨了传统控制措施的不足、影子AI为何比许多管理者意识到的更为普遍，以及F5 Workforce AI Security等解决方案如何为负责任且安全地采用AI提供可扩展的路径。
热门AI应用
传统安全架构为何难以满足AI需求
大多数企业安全架构旨在保护两类对象：人类用户和敏感数据。但AI带来了第三类参与者：自主AI智能体。它们以机器速度运行，通常使用人类用户的凭据，并与分布在不同工具和环境中的系统交互。这一转变打破了传统安全控制所依据的许多基本假设，因为这些控制并非为管控此类智能体可以访问哪些内容、做出哪些决策或暴露哪些信息而设计。因此，即使安全防护完善的组织，也面临着一类新的风险，而其现有的数据丢失防护（DLP）、云访问安全代理（CASB）和身份与访问管理（IAM）工具并非为应对此类风险而设计。
来源：《保护AI安全：当前要务》，IBM/AWS
传统企业安全系统在AI使用方面的具体不足包括：
- 数据丢失防护（DLP）解决方案在设计之初并不具备理解提示词意图、模型上下文或AI生成响应的能力。它们可以发现数据已离开系统，却无法判断数据为何以及如何离开，也无法了解模型如何处理这些数据。因此，如果交互中的敏感内容嵌入自由文本提示词、对话流程、工具链或输出，往往会完全绕过检测。即使已实施DLP策略，违规事件仍然存在：在标记的事件中，源代码占46%，受监管数据占35%，知识产权占15%。
- 云访问安全代理（CASB）并非为分析提示词、解读嵌入自由文本中的敏感数据，或跟踪跨工具和模型的链式AI操作而设计。CASB及ASE平台等新一代同类解决方案虽然可以从宏观层面阻止或允许访问AI应用，但无法洞察授权访问后发生的情况。完全阻止使用AI工具往往会导致影子AI；允许访问却不实施上下文控制，则会使企业无法掌握相关情况。F5 Workforce AI Security在AI交互层运行，可提供对提示词、模型行为和智能体活动的实时可见性，覆盖获准和未经批准的AI工具，从而补充CASB的能力。
- 身份和访问管理（IAM）旨在对人类用户进行身份验证，而非管控代表用户执行操作的AI智能体。IAM虽然可以确认会话由谁发起，但无法控制向AI模型提交的内容、智能体如何串联使用工具，也无法控制其随后执行的操作。一旦AI智能体开始使用有效凭据运行，IAM便无法再洞察后续行为，使组织面临模型发起非预期或未经授权操作的风险。
DLP、CASB和IAM各自在明确的边界内运行，分别涵盖网络、应用和用户身份。但AI的使用会同时跨越这些边界，而且往往脱离获准的工作流。提示词从浏览器发出，敏感数据流向外部模型，AI智能体则借用凭据执行操作。因此，企业最多只能获得部分可见性，严重时甚至会出现完全的盲区。传统架构并非为管控此类交互而设计，因此企业需要一个能够理解AI实际运行方式的新控制层。
即使是采用多层安全技术栈的成熟组织，也往往缺乏必要的控制措施和可见性，难以了解员工如何使用AI。随着AI使用加速，风险态势不断扩大，仅依赖传统安全工具已不足以应对。
对组织而言，依赖DLP解决方案来保护AI交互尤其令人担忧。尽管2024年采用率从24%增至42%，实现两位数增长，但数据泄露风险依然十分显著。
来源：Netskope，《企业中的AI应用》，2024年
影子AI问题：现实工作环境中的风险
最普遍却未得到充分重视的AI风险，或许是影子AI的兴起，即员工未经批准或不受管理地使用AI。这些行为通常并非出于恶意，而是为了提高工作效率、更快解决问题或尝试新工具。
遗憾的是，当安全团队缺乏可见性、上下文信息和控制能力时，这些善意之举会带来重大风险。
根据Menlo Security的《2025年报告》：
- 69%的员工通过个人账户使用免费版AI工具
- 57%的员工会输入敏感数据
如果缺乏治理，这意味着使用影子AI可能会：
- 向外部模型泄露PHI、PII或机密知识产权
- 违反内部数据分类和合规政策
- 将敏感内容输入会保留输入数据用于模型训练的AI工具
此类事件并不少见。各部门使用影子AI的情况日益增多：
- 营销：使用ChatGPT或Copilot构思营销活动、撰写广告文案和内容初稿
- 法律与合规：通过Copilot或私有大语言模型对合同进行脱敏处理或审核账单
- 工程：利用内部LLM或开源模型进行代码生成、构建RAG管道和实现自动化
F5 Workforce AI Security将使用情况映射到相应角色，并执行相关安全策略，从而支持安全、合规且负责任地大规模使用AI。
来源：Menlo Security《2025 年报告》
F5 Workforce AI Security 如何助力企业安全采用员工AI
F5 Workforce AI Security 专为应对采用AI所带来的治理挑战而设计。传统工具侧重于静态数据和访问权限。F5 Workforce AI Security 可治理导致AI风险的动态交互，包括员工发送的提示词、随提示词传递的上下文、AI智能体调用的工具，以及这些智能体执行的操作。
该解决方案部署在AI流量路径中，可实时检查流量。安全团队可以在敏感信息到达模型之前将其移除，根据请求者的身份及其意图应用策略，并保留可追溯的记录，说明发生了什么以及原因。该解决方案不仅管理数据的存储位置，还管理模型可以查看和执行的内容。主要优势包括：
发现：全面掌握情况
- 发现公共、嵌入式和内部工具中的AI活动
- 按用户、部门、设备以及服务或模型梳理使用情况
- 生成详细的审计日志，以满足合规和事件响应需求
防护：实时缓解风险
- 在不安全的提示词和敏感数据到达模型之前，将其拦截并对敏感数据进行脱敏处理
- 根据用户角色、服务或模型以及提示词上下文实施动态策略
- 通过安全门户将影子AI重定向到经批准的私有实例（例如Amazon Bedrock）
赋能：安全、负责任地扩展
- 提供防护机制，同时不影响工作效率
- 与SIEM、IAM/SSO和MDM/SASE工具无缝集成
- 让用户能够在品牌化的安全门户中工作，连接可信模型，同时保留企业管控
适应：持续完善治理
- 分析使用数据，持续完善AI政策和培训
- 识别新出现的模式、影子使用情况或政策缺口
- 支持持续改进治理实践
F5 Workforce AI Security 无需重新配置现有工具，即可帮助组织在几分钟内全面了解整个企业的AI使用情况。通过降低敏感数据暴露风险，该解决方案支持负责任地使用AI，并确保符合不断变化的监管要求。
从混乱走向可控
企业不再需要在创新与风险之间做出取舍。企业可以安全地大规模采用AI，但前提是治理模式必须符合AI的实际使用情况。
F5 Workforce AI Security通过提供实时可见性、动态策略执行以及与现有技术栈的集成，为组织提供有力支持。它为CISO提供所需工具，帮助AI策略在实践中真正发挥作用，并具备内置的可审计性、可扩展性和灵活性。
发布于2026年9月4日