F5近日发布了两款新的AI安全产品:F5 AI Guardrails和F5 AI Red Team。当前,行业监管机构正日益加强对利用AI提供消费者服务的审查,F5在这一关键时刻发布了这两款产品。
尽管已有一些专门针对AI的法规,例如广受关注的欧盟《人工智能法案》,但许多司法管辖区的监管机构仍在利用现有监管框架,确保企业负责任地使用AI。因此,即使所在司法管辖区没有专门针对AI的法规,企业要将AI创新成果应用于技术栈的实际运行中,往往仍需承担较重的合规负担。此外,包括大语言模型(LLM)在内的许多模型都以黑盒方式运行,而企业需要履行公平性、透明度和可解释性方面的合规义务,这使得使用此类模型更具挑战性。
F5 AI Guardrails和AI Red Team是F5 Application Delivery and Security Platform (ADSP)的新成员,新增了强大的合规控制措施,帮助企业更好地理解AI模型的输入和输出并建立二者之间的关联、消除偏见,并增强人工监督能力。
只需点击几次,即可完成上述操作,将这些洞察转化为主动防御措施,使模型持续符合组织的合规义务,以及负责任且合乎道德地使用AI的内部标准。对于因法律或监管风险而暂缓部署AI的企业而言,这是一次突破性进展。
简化各类用例中的AI模型风险因素管理,降低相关风险
F5 AI Guardrails的功能有助于组织完善AI治理策略,发挥着重要作用。只要AI直接影响人们的生活,AI治理策略就至关重要。例如,金融机构希望使用AI处理贷款申请。如果AI拒绝了一笔人工审核本会批准的贷款,这些机构就可能面临风险;但棘手的是,目前鲜有有效工具能帮助理解模型为何会拒绝贷款。即使在使用前对模型进行了充分测试,缺乏可解释性仍无法通过监管审查,也无法满足组织自身对透明度的要求。
“对于因法律或监管风险因素而暂缓部署AI的企业而言,这是一次革命性的进展。”
在部署AI模型之初,组织希望对模型进行严格测试和验证,确保模型不会出现泄露敏感信息、重现偏见或作出不公平决策等失控行为,因为这些行为可能导致公司承担法律责任。
F5 AI Red Team对AI系统提供广泛且有针对性的测试:大规模开展自动化对抗性测试,识别明显及隐蔽的行为和漏洞,帮助团队全面了解所有风险。这些红队测试能力由业内先进的数据库提供支持,该数据库每月新增超过10,000条攻击提示词。企业还可以自行编写测试,确保模型更新后行为保持一致。这些工作有助于团队确保模型按预期运行,并为数据安全、威胁管理和治理策略的制定与调整提供依据,以抢先应对新兴风险。
借助F5 AI Guardrails,组织可以关联提示词与响应,按主题针对达到特定数量的提示词设置告警,并提交关键提示词以供评估和纠正。该解决方案提供AI治理团队所需的人工监督和记录保存工具。
F5 AI Red Team既能从宏观层面呈现模型产生特定行为的原因,也能提供细粒度视图,帮助解释提示词中的哪些特征或词元对得出特定推理结果影响较大。回到金融服务的示例,公司可以使用AI Red Team功能,确定贷款申请中的哪些数据对模型的推理或结果影响较大,以及模型在决策时更为依赖哪些特定数据源。由此,组织将获得更多数据点,用于梳理模型的工作方式、识别权重过高或过低的特征,并提供反馈以进一步开展重新训练或微调。组织还可以快速生成文档,为审计和合规工作提供支持。
消除AI应用障碍,加快合规进程
简便易用是一项关键差异化优势。这款点选式解决方案无需组织自行开发定制工具,并与F5 ADSP的其他部分相辅相成,提供敏捷的测试、监控和微调能力,不止于符合标准。面对监管挑战,组织可以加快推进AI计划和多个复杂AI模型的部署,将消费者隐私和公平性作为自身服务的基石。
值得注意的是,即使尚未出台明确的AI使用法规,监管机构也在结合AI情境重新解读现有法律框架,使其适用于AI流程。仍以金融服务业为例,监管机构目前正依据最初于1970年通过的《公平信用报告法》(FCRA)评估企业的AI使用情况。AI Guardrails有助于组织满足当前的监管要求,同时更好地应对未来可能出台的新法规。
加速实现合规、透明、注重风险规避的AI
随着此次收购的完成及F5 ADSP能力的扩展,组织将具备解决AI黑箱问题所需的能力,同时向监管机构展示其风险管理状况和数据治理情况。一些价值显著但曾被视为高风险的AI用例,如今可以借助适当的防护机制、人工监控和可解释性工具落地实施。F5提供全面的平台和旨在适用于任何环境的简便工具,可帮助组织更快实现这些目标。
如需了解更多信息,请阅读我们此前发布的博文。
关于作者

相关博客文章

三家企业如何借助AI驱动的WAF改进虚拟补丁和运行时安全
了解三家F5客户如何利用AI驱动的WAF加快虚拟补丁部署、将误报减少50%以上,并更有信心地启用阻断模式。

F5 BIG-IP v21.0增强S3工作流的AI数据交付与摄取能力
使用F5 BIG-IP 21.0版优化S3工作流:通过低接触式配置,为AI数据交付、对象存储和RAG管道提供可扩展的安全解决方案。
Everest Group报告:生成式AI行业应用的当前趋势与未来前景
我们很高兴能为全球知名研究机构Everest Group发布的一份重要新报告作出积极贡献。该报告题为《生成式AI应用:审视横向职能中的实际应用与未来展望》,深入分析了各行业对生成式AI(GenAI)的应用情况。报告指出,IT[……]
