AI治理与管理学习资源
AI应用业务战略
探索将AI融入业务运营的策略，以推动创新并制定AI应用战略路线图。
生成式AI与数字化转型
探索生成式AI如何借助前沿应用和技术，推动各行业的数字化转型。
AI透明度
了解透明度在AI系统使用中的重要性，以及如何通过实施相关实践来减少AI偏见并确保问责与信任。此外，AI分析的透明度有助于组织充分挖掘数据潜力，从而简化流程并提升项目管理成效。
F5 AI协作与合作伙伴关系
了解F5如何与合作伙伴携手推动AI管理系统和编排平台的发展，从而简化推理数据管理。
常见问题
AI模型治理侧重于降低模型输出风险，例如不准确、幻觉、偏见、不当内容和数据泄露。AI智能体治理的重点是管控可能造成危害的智能体操作，例如未经授权的系统调用、成本高昂的失控循环和权限提升。智能体治理需要为智能体分配唯一的非人类身份，持续实施运行时控制，并确保重要决策或操作始终有人参与。
《欧盟人工智能法案》将AI系统的风险分为4个等级：不可接受风险、高风险、透明度风险以及最低风险或无风险。某些具有不可接受风险的AI实践会被禁止，而最低风险或无风险的用途通常不受该法案附加规则的约束。美国国家标准与技术研究院（NIST）的《人工智能风险管理框架》（RMF）是一项自愿采用的框架，围绕4项职能构建：治理、映射、衡量和管理。《欧盟人工智能法案》旨在确保AI安全、以人为本且值得信赖，同时保护权利并支持创新。NIST AI RMF则更侧重于提升AI系统的可信度。
问责与责任承担是智能体AI领域的核心关切。组织必须将明确AI智能体的问责归属纳入治理计划。如果发生严重错误或财务损失，责任承担将取决于适用的法律框架、合同安排以及相关组织所扮演的角色。视具体情况而定，责任可能由部署智能体的组织、提供商、开发者或其他相关方承担。
为智能体分配非人类身份（NHI），组织便可通过精细的最小权限访问策略限制智能体的操作，从而增强安全性。有效的NHI管理有助于限制智能体无序扩张。例如，仅允许经过验证的身份执行系统调用，可以减少影子智能体的数量，因为这些智能体将无法执行调用。组织还可以使用短期身份令牌，降低孤立或非活动智能体带来的安全风险。
当多个智能体自主协作、共享上下文或调用外部工具来完成多步骤任务时，就会形成AI智能体集群。开源工具和框架有助于应对智能体集群带来的挑战。例如，组织可以将OpenTelemetry（OTel）框架与Jaeger或Grafana Tempo等工具结合使用，以监控和审计AI智能体集群。OTel负责采集智能体遥测数据，Jaeger或Tempo则生成可视化图谱，以便开展审计。
建立企业AI治理委员会时，应首先组建一支跨职能的高级领导团队，成员应来自工程、网络安全、法务、财务和产品部门。明确职责后，团队应制定政策，并在整个企业内将这些政策落实到运营中，这一过程可通过卓越中心（CoE）推进。CoE由技术和风险专业人员组成，可建立标准化流程，用于发现、评估和分类AI系统；简化符合政策要求的开发流程；部署身份控制；以及实施追踪和测试。