企业部署中大型语言模型权限管理的重要性

F5 Newsroom Staff

ChatGPT和Claude等大语言模型（LLM）于2022年末至2023年初问世，引发了人们对AI强大能力的广泛关注。许多企业立即意识到，这项技术具有堪比万维网或云技术问世的变革潜力，并试图利用其能力，却很少考虑安全性或信息安全。另一些企业则因不知如何适应而陷入焦虑和犹豫，还有一些企业干脆停滞不前。

自问世以来，大语言模型（LLM）彻底改变了整个生态系统，影响范围涵盖组织规划投资战略和市场策略的方式、企业运营重塑以及法律文件起草。模型本身也在不断演进，从ChatGPT和Bard等大型公共基础模型，到Harvey和BloombergGPT等面向特定行业的微调模型，再到越来越多的组织开始微调或构建 检索增强生成（RAG）模型，近期又发展到内部模型。 这一最新发展本身就是一种值得关注的现象：这些内部模型使用专有数据进行训练，旨在完成组织、部门或团队内的特定任务。

RAG流程包括将特定的公司数据（例如法律文档、客户服务记录或营销活动数据）输入模型，训练模型识别和分析模式及其他内容，通过迭代达到性能阈值，然后将模型用于预定用途。内部RAG模型和微调模型支持采用基于策略的访问控制（PBAC），仅允许已获授权的人员与模型及其数据交互。正如组织使用Active Directory和其他权限管理系统来划分和控制数据访问权限一样，也可以根据公司策略、业务需求或其他企业特定的决定因素，按团队或个人划分信息和模型的访问权限。随着AI模型在整个企业中的应用不断扩大，权限管理仍将是业务运营的重要组成部分，也是保障LLM安全的关键因素。

• 保护敏感数据：仅允许已获授权的员工或其他人员访问敏感数据、知识产权、法律文件、个人身份信息（PII）及其他机密内容，有助于更轻松地保护这些信息。随着安全防护层级的增加， 数据盗窃风险也会降低。 
• 实现、跟踪和保持合规性，遵循数据隐私和安全法规、行业标准（例如自动化决策相关标准）、公司可接受使用政策，以及其他准则。在较小的群体中实施，并针对特定或多样化的要求开展工作，有助于更轻松地管理这些合规工作。 
• 由于模型使用的成本结构在趋于稳定前仍将持续波动，资源分配成为模型权限管理带来的主要优势之一。限制可访问模型的团队或员工数量，有助于高效控制计算资源的使用，并让组织能够合理调整模型许可证、订阅或席位的数量；在使用多个模型时，这一点尤为重要。 
• 能够根据 自定义特定用例和/或用户组自定义模型操作或活动，从而简化功能；还可自定义过滤器和扫描器灵敏度，使响应符合组织需求。

对于仍在努力确定需要哪些模型及模型类型，以及如何在整个企业中部署和保护这些模型的组织而言，能够在生成式人工智能（GenAI）模型上实施强大的基于策略的访问控制（PBAC），将带来极大助力。作为组织安全基础设施中一项关键且已得到充分理解的组成部分，PBAC通过最大限度减少对敏感数据的不必要访问，降低 潜在安全漏洞并减少内部威胁风险。集中管理用户身份验证、授权和审计的身份和访问管理（IAM）系统及角色管理工具，是有效实施PBAC的关键。

不过，还必须考虑 技术蔓延的风险。当系统中的应用和设备过多，彼此集成不佳或完全无法集成时，就会出现技术蔓延，并可能产生原本不存在的漏洞。部署全面的LLM安全解决方案（例如F5 AI Runtime Security），使其充当覆盖全局的 信任层，并涵盖企业使用的所有模型，正是典型的多LLM部署中缺失的一环。我们的解决方案不依赖特定模型，可扩展，不会增加基础设施负担，并能与现有安全体系无缝集成；同时还可为组织内的群组和个人提供精细的权限控制，且不会增加计算成本或引入模型延迟。 

随着LLM等高级生成式人工智能（GenAI）模型在组织内日益普及且更加多样化，必须在部署初期内置安全措施。应优先通过IAM和PBAC实施权限管理，将其作为降低风险，同时提高生产力、促进创新并增强竞争优势的关键手段。

关于作者

F5 Newsroom Staff

F5 Newsroom Staff 的更多博客文章