AI治理在提升企业合规性与安全性方面的作用

F5 Newsroom Staff

大型语言模型（LLM）和其他AI工具在企业中的快速普及，正在推动业务运营变革并提高生产力。然而，这些工具也扩大了组织的攻击面，带来了重大的安全与合规挑战。长期以来，组织往往更重视实用性和上市速度，而非健全的治理与控制措施，AI治理的发展也不例外。随着企业将AI和机器学习（ML）能力融入越来越多的任务，建立全面的AI治理框架以应对这些新风险，对于确保内外部合规与安全至关重要。

AI治理的必要性

随着AI/ML工具在运营、销售、法务、人力资源等职能部门得到越来越广泛的应用，组织的安全负责人（可能包括CISO、CIO、CTO、CSO、CDO、合规官和/或总法律顾问）必须着手制定并实施企业级AI治理框架。这一过程对于平衡日益增长的AI工具需求与保护不断扩大的攻击面至关重要。

这项任务需要组建一支跨职能团队，由组织内所有主要职能部门的代表组成，以便就治理原则达成共识，并获得包括高管团队在内的利益相关方支持。将团队人数限制在6至8人有助于简化决策和实施流程。应由最深入参与该技术的安全负责人牵头；但其职责并非担任主题专家，而是作为协调者保持中立并避免偏见。

现状与挑战

大语言模型（LLM）及其他生成式AI（GenAI）产品的迅速发展，为企业带来了诸多机会，可用于优化业务流程、改善客户体验并提高专业人员的工作效率。其中包括引入依托专有数据、自主开发的内部模型，以满足特定行业或企业的用例需求。这些工具的快速普及，加之模型种类繁多且可进行各种定制，给此前可能从未使用过此类复杂数字工具的用户带来了认知负担。

安全负责人必须让利益相关者（包括员工、承包商、客户及其他相关人员）了解使用这些变革性解决方案所涉及的风险、责任、成效和收益。

AI治理框架

在建立AI治理框架时，安全负责人应重点关注以下几个关键领域：

• 人员：安全负责人必须向各职能部门、团队和专业领域的负责人说明共识驱动型AI治理的重要性。
• 原则：治理原则应与组织价值观和品牌声誉保持一致，为业务价值提供明确依据，并为AI专项政策奠定坚实基础，以解决可接受使用范围和滥用后果等问题。例如，原则可规定所有大语言模型（LLM）输出均须经过人工审核，并要求在内部沟通中注明LLM的使用情况。尽早确立这些原则，有助于修订现有公司政策并制定新政策。 
• 法规：AI治理必须考虑受现有隐私法律影响的地区、国家和全球法规，例如欧盟《通用数据保护条例》（GDPR）和《加利福尼亚州消费者隐私法案》（CCPA）。负责隐私与合规事务的高管必须成为治理框架的重要组成部分，确保与AI相关或依赖AI的模型、工具和实践符合有关同意、数据匿名化和数据删除的监管标准。 
• 伦理：AI治理需要投入大量人力，重点关注人员的工作方式，而非其使用的工具。必须将伦理考量融入AI开发，并由人类在技术设计中作出伦理判断。
• 控制措施：AI治理应纳入三个层级的人工参与：人在回路（HITL）、人在回路上（HOTL）和人类主导（HIC）。这样可确保对AI运营进行人工监督并落实问责，从而降低AI自主决策带来的风险。

AI治理的商业价值

实施AI治理需要投入技术和人力。不过，在核心业务工作流中使用大语言模型（LLM）所带来的生产力提升和人力成本节省可能相当可观，足以证明这些投入的合理性。建立问责机制，明确由指定员工对AI输出负责，可以尽量减少对额外支持人员的需求。建立此类框架并获得管理层和员工的认同后，企业便可高效、有效且安全地管理衍生风险，并取得符合公司价值观和政策的可衡量收益。

点击此处，预约我们的生成式AI安全与赋能平台演示。

关于作者

F5 Newsroom Staff

F5 Newsroom Staff 的更多博客文章