本篇博文是AI护栏系列的第7篇。
AI监管正在传递一个明确的信息：仅有意图已远远不够。监管机构要求组织证明如何治理AI系统、如何识别和缓解风险，以及如何持续保持合规，而不只是说明政策如何制定。对于法务、风险和安全负责人而言，这一转变意味着运营问责已成为采用AI时的核心考量。
诸如《欧盟人工智能法案》和ISO/IEC 42001等框架清楚地体现了这一变化，也为本次讨论提供了参考。此处引用这些框架，并非因为只有这些规则至关重要，而是因为它们代表了两种具有重要影响力且日益趋同的AI治理方法。《欧盟人工智能法案》是一项以风险和问责为基础的强制性法规；ISO/IEC 42001则是一项运营标准，旨在帮助组织实施并持续践行负责任的AI实践。这些框架共同提供了一个实用视角，有助于了解全球监管要求的发展方向，以及随着人工智能监管合规日益规范化，组织在日常AI运营中将越来越需要证明哪些方面。
F5 AI Guardrails在满足这些要求方面发挥着核心作用。通过在运行时实施策略驱动的控制并结合持续测试，组织可以将监管要求落实到实际运营中，在降低法律风险的同时，支持负责任的AI规模化应用。
“F5 AI Guardrails并非仅依赖上游模型保障或人工治理流程，而是在AI交互发生时直接应用机器可执行策略。”
什么是运行时AI合规执行？
组织需要在用户与AI系统交互时部署合规、治理和控制措施，这一环节称为运行时层。模型输出具有动态性且不断变化，因此静态的时间点审计可能无法发现未经授权的行为。动态应用过滤措施、防止数据泄露并阻止有害输出，对于确保非确定性AI系统合规至关重要。详细记录日志也同样关键，这有助于团队解释和追踪每项强制执行操作。
AI合规为何不同于传统IT合规
传统IT合规模型以行为可预测且可定期评估的系统为基础。相关方会按固定周期审查控制措施、记录配置，并针对相对稳定的环境开展审计。AI监管则采用不同的方法，不再只关注基础设施，而是更强调风险、问责和结果。
例如，《欧盟人工智能法案》引入了基于风险的分类、针对特定角色的义务以及持续监控要求，尤其适用于高风险系统和通用人工智能模型。ISO/IEC 42001对此形成补充，规定了组织应如何建立、维护和持续改进人工智能管理体系。两者都要求持续监督，而非一次性验证。
这给合规团队带来了根本性转变。AI系统不仅要在部署前接受治理，还必须在运行期间持续接受治理。各项政策必须在不同模型、用户和用例中得到一致执行。当监管机构要求提供证明时，组织必须能够说明实际如何管理风险，而不是在事件发生后再还原经过。
全球主要AI框架对比
框架和标准在AI合规中发挥着多种作用。其中，《欧盟人工智能法案》等具有法律约束力的法规要求组织在运营中落实特定能力和实践。组织可以采用NIST AI RMF等自愿性风险框架，借助经过验证的方法帮助改善整体安全和风险状况。此外，ISO/IEC 42001等可认证的运营标准可帮助团队提供验证依据，证明其运营符合安全要求，并以负责任的方式管理AI系统。
使用F5 AI Guardrails落实监管要求
F5 AI Guardrails旨在通过在运行时实现AI合规来应对这一监管现实。AI Guardrails并非仅依赖上游模型保障或人工治理流程，而是在AI交互发生时直接应用机器可执行策略。
这一点至关重要，因为许多监管义务以结果为导向。隐私法律要求保护个人数据。《欧盟人工智能法案》对某些行为和输出作出限制。治理标准要求具备透明度、可追溯性和人工监督。AI Guardrails通过实时检查AI输入、输出和上下文信号，将这些要求转化为可执行的措施。
从合规角度来看，AI Guardrails可满足三项关键需求：
- 策略执行：在不同模型和部署中实施一致的控制措施，帮助组织在系统不断演进的过程中，使AI行为符合法律、监管和内部治理要求。
- 违规预防：在运行时阻止被禁止或不合规的输出，从而降低发生须报告事件、遭受监管处罚和声誉受损的风险。
- 审计就绪的可追溯性：记录每项策略执行决策及其上下文和结果分析，形成清晰的记录，为监管问询、内部审计和董事会层面的监督提供支持。
通过这种方式，AI Guardrails利用可执行的实时控制措施衔接监管意图与技术实施，从而为满足监管合规要求提供支持。
持续测试为何对AI合规至关重要
仅靠强制执行不足以满足现代监管要求。监管机构日益要求组织证明其了解自身的AI风险状况，并主动采取措施评估和缓解相关风险。在这方面，F5 AI Red Team可加强合规工作。
F5 AI Red Team持续使用现实中的对抗技术和滥用场景测试AI系统。从监管角度看，这有两个重要作用。
首先，它有助于组织及早识别与合规相关的风险。对抗性测试可发现若不加以解决，可能导致非法数据泄露、有害输出或违反政策的漏洞，从而直接支持履行《欧盟人工智能法案》和ISO/IEC 42001均强调的风险评估与缓解义务。
其次，它可生成经得起审查的尽职调查证据。AI红队报告提供可解释且经过风险评分的结果，记录系统在压力下的行为以及弱点的处理方式。这些证据对于审计、监管审查和内部治理评估至关重要。
将AI红队测试结果直接输入F5 AI Guardrails后，组织便可形成从测试到策略执行的闭环。测试期间发现的漏洞可转化为更新后的运行时策略，确保合规控制措施随新兴风险不断演进。
使AI Guardrails符合《欧盟人工智能法案》和ISO/IEC 42001要求
《欧盟人工智能法案》和ISO/IEC 42001经常被一并讨论，但二者在AI合规方面发挥着不同作用。《欧盟人工智能法案》是一项具有约束力的法规，根据风险、角色和用例规定组织必须采取的措施。ISO/IEC 42001是一项自愿性管理体系标准，概述了组织应如何构建治理、问责和持续监督机制。
这一区别至关重要。《欧盟人工智能法案》规定了监管要求和执法预期。ISO/IEC 42001为持续落实治理流程提供了框架，但并未规定具体的技术控制措施。
AI Guardrails介于这两个层面之间。它不能取代监管义务或治理标准，而是提供一种切实可行的方式，在运行时执行AI政策，并生成监管机构和审计人员期望看到的证据。借助可自定义的扫描器和控制措施，组织可以根据具体监管义务（例如《欧盟人工智能法案》的风险类别、各司法管辖区的数据保护要求以及获批的用例）调整执行方式，在法律要求的具体环节精准应用政策，而不是对所有AI交互统一应用。通过维护随时可供审计的记录，AI Guardrails有助于证明治理措施已切实实施，而非停留在理论层面。
将AI Guardrails与F5 AI Red Team提供的持续测试结合使用，组织无需从头重建合规方法，即可跟上不断变化的监管要求。
将合规转化为持久能力
有效的AI合规并非简单地勾选检查项，而是要构建能够适应监管变化，同时保持可信度和问责机制的系统。成功的组织通常会重点关注以下几项核心实践：
- 制定符合相关法律法规义务的明确AI政策
- 使用AI Guardrails在运行时强制执行这些策略
- 持续针对贴近实际的风险场景测试AI系统
- 保留透明且随时可供审计的执行与测试记录
F5 AI Guardrails与F5 AI Red Team协同工作，F5 AI Guardrails and F5 AI Red Team有助于持续落实这些实践。通过将实时执行与持续验证相结合，两者可简化合规工作、降低法律风险，并帮助组织有信心地证明其负责任的AI治理能力。
在监管审查日益严格、要求不断变化的环境中，这种组合不仅有助于满足合规要求，还能帮助企业从容应对未来的合规变化。
F5合规执行架构
F5 AI Security Platform通过可自定义的策略执行来应对特有的风险类别，并支持对每个模型、用户和智能体操作进行审计，帮助团队将AI治理落实到运营中。
借助该平台，团队可以更轻松地将风险偏好、隐私要求和合规义务转化为可执行的企业AI使用策略。
- 合规性：通过可供审计的日志和可追溯性证明符合监管要求。
- 负责任的人工智能（RAI）：使策略和安全控制措施与企业对RAI的定义保持一致。
- RMF对齐：根据特定的风险定义和企业框架调整AI安全策略。
欢迎阅读本系列此前发布的博客文章：
基于分类器与由LLM驱动的防护机制：哪些方法在AI运行时真正有效
常见问题
《欧盟人工智能法案》、NIST AI RMF和ISO/IEC 42001之间有哪些主要区别？
《欧盟人工智能法案》、NIST AI RMF和ISO/IEC 42001分别属于不同类别的框架。《欧盟人工智能法案》规定了企业必须履行的法律义务。NIST AI RMF是任何团队均可采用的自愿性框架。ISO/IEC 42001是一项认证标准，组织可通过获得该认证，为其AI管理能力提供经验证的证明。
运行时安全如何帮助避免因违反《欧盟人工智能法案》而面临巨额罚款？
《欧盟人工智能法案》要求组织针对相关AI系统妥善处理风险管理、透明度、日志记录、人工监督、稳健性和网络安全等方面的问题。运行时安全可以帮助组织将这些要求落实到运营中，并降低合规风险。
使用第三方AI API（如OpenAI或Google Vertex）能否让我的企业持续符合GDPR要求？
仅使用第三方AI API并不能满足GDPR要求。要符合GDPR，贵组织仍需满足准确性、透明度和问责制等方面的多项其他要求。
为什么定期或时间点合规审计不足以满足人工智能的合规要求？
AI系统具有非确定性，其响应可能难以预测。即使提示词不变，输出也可能存在很大差异，因此静态的时间点审计可能无法发现未经授权的行为。运行时实时检查对于满足监管合规要求和保障整体AI安全至关重要。
持续红队测试如何弥合测试与监管合规之间的差距？
持续开展Red teaming，尤其是由AI自动执行的Red teaming，有助于不断发现新的安全漏洞和合规差距，同时提供已履行尽职调查的证明。根据对抗性测试结果，可以利用Red teaming制定新的安全与合规控制措施。AI Guardrails和AI Red Team可结合使用，自动将发现的漏洞转化为安全防护措施和策略。
关于作者
相关博客文章
WAF和API发现技术在保护智能体AI应用中的作用
智能体AI系统的功能和集成会在运行时快速变化。要以同样的速度保障其安全，需要通过API发现和Web应用防火墙（WAF）实施切实可行的控制措施。
