Agentic AI 可以以最低权限访问运行,但仍然违反安全策略。
安全上下文定义了谁可以对给定的一组数据做什么。 跨企业系统创建、更改或删除数据的权限由分配给特定角色的业务需求定义。 在由人类履行某些角色的企业中,当他们使用软件时,该软件必须具有安全环境才能运行。 并且该安全上下文是使用账户实现的。 软件通常以用户帐户或服务帐户的身份执行。 创建服务帐号是为了允许软件权限独立于任何特定用户的安全环境来操作公司数据。
根据用户的角色,为他们分配对各种公司资源的最低权限访问权很简单,但是服务虽然仍然受到限制,但配置为允许最高权限访问,以便他们可以执行整个流程所需的所有操作。 例如,用户可能仅对系统中与其分配的客户帐户相对应的一组记录具有写访问权限,而对所有其他客户帐户则具有只读访问权限。 另一方面,服务帐号需要对所有帐号具有写权限。
流程自动化内部的特权差距。
当使用代理AI时,用户活动和企业业务流程活动会融合在一起。 企业业务流程旨在汇总提供结果(即针对所有客户、所有员工、所有实例)。 为了运行,服务账户通常需要比大多数个人用户更高的权限,但负责启动、监控和监督公司流程的是个人用户或用户团队。
例如,一个组织雇用代理 AI 助理来支持新员工的入职。 每个新员工都有特定的角色,并且基于该角色,企业需要在一定级别访问公司系统。 代理 AI 助手在进行入职培训的人力资源人员的环境中运行。 那么,如果 AI 代理需要为新用户帐户配置超出一个或多个人力资源团队成员的权限,会发生什么?
如果代理的权限是根据需要运行的进程来设置的,而不是基于使用代理的人员是否单独授权,则可能会发生安全违规,因为用户控制的软件可以访问他们无权访问的数据。 另一方面,如果由于缺乏权限而阻止该操作,则用户无法完成该任务。
这种情况可以通过分支流程来解决。 子任务被分配给具有所需级别权限的人员,一旦获得批准,流程即可进入下一步。 这种根据安全上下文细分动作的技术也应该应用于代理解决方案。
使用代理 AI 可能会增加用于在用户上下文中启动进程的软件在切换到使用服务帐户运行的代理的上下文时最终获得提升的权限的可能性。 在这种情况下,代理系统以提升的权限和数据访问不违反安全策略的方式运行非常重要。
显示工作流各个步骤期间安全上下文切换的流程图。 权限和敏感度的变化被映射到数据访问点。
设计具有适当安全背景的人工智能代理首先要回答这个问题:自动化流程是作为部署给一个或多个用户的个人助理,还是需要代表企业大规模运行的通用业务流程?
如果是个人,则将流程图的重点放在验证所有操作和数据访问要求是否符合针对目标用户的现有公司安全策略。 如果发现任何例外,请分离需要提升权限的操作,并确认访问权限和操作已正确映射到具有所需各个级别的个人。
如果该流程对于业务来说是通用的,请检查服务帐户设计以确定最高权限访问是否会产生像上面第一个示例中的安全漏洞,并仔细检查以确认敏感数据不会暴露给没有必要权限的用户。
组织应该在个人和公司代理的设计中纳入安全环境。 通过分离需要提升权限的任务并注意用户或服务帐户是否会执行该操作,意外安全漏洞的风险将会降低。
要了解有关自动化和安全之间紧张关系的更多观点,请阅读: 缓解数据安全与自动化之间的紧张关系 | F5