从混乱到协同：管理数字化蔓延与AI风险

F5 Newsroom Staff

数字化蔓延并非新现象。许多组织，甚至可能是大多数组织，都会在发展过程中遇到这一问题。各个团队和部门在未告知IT部门的情况下，添加针对特定用途构建的应用、工具和解决方案，而这些工具无法有效集成到现有系统中。有时，IT团队部署的应用在某些方面功能重复，其他功能却无人使用。有时，应用逐渐被弃用，成为系统中的“僵尸”：并未完全消失，却从不更新、从不移除，而且漏洞百出。有时，问题并非源于组织或其内部团队，而是受到整体环境的影响。云在计算、存储、协作等众多领域的兴起，随后暴发的新冠疫情、向居家办公的剧烈转变，以及那段混乱时期缺乏统筹的系统治理，无疑加剧了各组织数字化环境的急剧扩张，尤其是在安全方面。

乍看之下，在组织的网络安全基础设施中部署多种工具，似乎是一种合理、规避风险且全面的方法。然而，当各自独立的安全工具和解决方案遍布整个基础设施时，可能会带来重大挑战和风险，例如：

• 各自孤立运行、无法相互通信或共享信息的解决方案，因此无法帮助组织全面了解自身的安全态势。这种碎片化会妨碍安全事件和警报的关联与分析，导致事件响应延迟、安全事件管理更加复杂，并可能造成威胁漏检。
• 缺乏集成和可见性，导致难以监控和控制数据流，形成安全盲区，敏感数据可能因此泄露或遭到未经适当授权的访问。
• 冗余会导致安全措施相互冲突或不一致、资源浪费、复杂性增加，并给安全系统的维护和更新带来挑战。
• 授权工具和/或协议不一致，可能会导致不应获得访问权限的人员意外访问关键数据。

仔细审查并果断整合，是精简安全基础设施的一条明确路径。但即使如此，也存在隐患：当生成式人工智能（GenAI）等新技术引入组织的数字生态系统时，现有安全机制无法提供帮助。在没有任何安全措施的情况下，在整个组织内部署GenAI模型或大语言模型（LLM）的风险已有充分记录：因查询编写不当而意外泄露知识产权或专有、机密或敏感数据；员工不具备评估能力，导致LLM响应中的不良甚至恶意代码被引入；未经核实便无意中传播从LLM响应中获取的虚假或不准确信息；此外还有许多其他风险。

新风险需要新的应对措施，这并不意外。这些尚处于起步阶段的措施至少应包括一些技术解决方案、治理框架和持续性工作，例如：

• 使用专用扫描器对提示输入和模型响应进行内容审核与过滤，以识别并阻止其中包含恶意或其他不当内容的输入和响应
• 使用户与模型的交互符合组织价值观和标准的道德准则
• 事实核查功能，可在信息纳入公司内容之前进行验证，并标记不准确或虚假的信息
• 模型无关性，可避免供应商锁定以及提供商限制所带来的问题
• 全面了解整个系统的情况，让安全人员能够实时掌握动态
• 一套全面的政策和程序，用于规范模型的合乎道德且负责任的使用，确保透明度和问责制，并遵守公司、行业或监管要求
• 基于角色或策略的访问控制，确保只有授权人员才能访问履行职责所需的模型、数据和功能
• 能够从用户和内容两个维度跟踪和审计交互情况，以识别漏洞、评估风险并实施适当的防护措施。

或许最重要的是，此类解决方案必须能够根据组织的具体需求、风险状况和监管环境进行定制。F5的模型无关型AI运行时安全解决方案易于安装和使用，并提供全面的安全功能，适用于使用任意数量或类型AI模型的组织，包括大语言模型（LLM）、多模态模型、检索增强生成（RAG）模型、微调模型、内部或外部模型，以及私有或开源模型。F5解决方案可提供整个系统的全面可观测性，使管理员能够查看每个模型及其活动。

F5设置了强有力的 防护机制，以抵御常见威胁和新型威胁。例如，基于策略的访问控制将模型访问权限限制为管理员指定的个人和群组，同时允许管理员设置速率限制，以监控和管控模型使用情况，并防止模型遭受拒绝服务（DoS）攻击。可自定义的扫描器会检查传出和传入的内容，确保机密的个人或公司数据不会流出组织，同时阻止恶意、可疑或其他不可接受的内容进入组织。其他扫描器会检查AI提示词，识别虽不会损害公司利益，但不符合公司价值观或业务用途的内容。 

扫描器会审查所有查询和响应，并根据组织设定的阈值对其进行脱敏、阻止或批准。平台上执行的所有交互都会被记录，以供管理员审查，并满足可审计性和问责要求。我们的Model-Agnostic Bot可与Slack和Microsoft Teams等办公工具无缝集成，让用户能够直接在这些工具中访问所有可用模型，在提供强大安全防护和出色性能的同时，提高工作效率并促进沟通与创新。这一整合式解决方案为主动、全面的安全方法奠定了坚实基础，有助于有效缓解GenAI模型部署相关风险。 点击此处，详细了解我们的GenAI运行时安全与赋能解决方案。

关于作者

F5 Newsroom Staff

F5 Newsroom Staff 的更多博客文章