保护人工智能系统： 安全为何必须跟上创新步伐

要持续享受人工智能的优势，组织必须像对待网络、数据库和应用一样，紧迫且重视其安全性。 但目前采纳与保护之间的失衡反映出另一种现状。

F5 2025 人工智能应用现状报告强调了这一点。 仅有 2% 的受访组织被评为高度安全，具备安全扩展 AI 的能力。 而有 77% 的组织面临人工智能安全与治理的重大挑战。

报告显示，只有少数中度准备的公司部署了基础安全措施。 仅有18%企业部署了人工智能防火墙，只有24%采用持续数据标注，这是识别对抗行为的关键手段。 问题加剧的原因还在于影子人工智能的不断扩散：这些未经授权或批准的AI工具在企业环境中形成了严重的安全盲区。

在争相部署人工智能以获取竞争优势的过程中，许多组织不经意间扩大了自身的攻击面。

人工智能独特的特性让它易受到新型攻击。 最紧迫的漏洞包括：

• 数据投毒： 攻击者悄然向训练集注入破坏性或误导性数据，从而干扰人工智能模型的表现。 2024 年，德克萨斯大学研究人员证明，嵌入引用文档的恶意内容能够影响模型输出，即使文档已被删除，这种影响依然存在。
• 模型反演与提取： 这些攻击使对手能够重构敏感训练数据或复制专有模型。 现实案例包括从诊断系统恢复患者影像，以及从语言模型重建私人语音录音和内部文本内容。
• 规避攻击： 攻击者通过对输入数据进行细微且常难察觉的修改，误导AI模型输出错误结果。 比如，研究人员通过贴上看似无害的贴纸，成功让自动驾驶汽车的视觉系统误将停车标识识别成限速标识。
• 提示注入： 大型语言模型(LLM)容易被精心设计的输入操控其行为。 例如，一款由ChatGPT驱动、供雪佛兰经销商使用的聊天机器人被诱导同意以1美元出售汽车，这一事件揭示了声誉及法律风险。

这些威胁并非空谈。 它们正在活跃地影响着多个行业中人工智能的安全性和可靠性。

为应对这些挑战，组织必须采取全面且实用的防御策略，兼顾整体网络安全与人工智能的特定风险。 下面五个步骤能够帮助企业有效保护其人工智能系统：

1. 加强数据治理
   建立清晰的AI资产清单，包括模型、API和训练数据集，并严格执行访问控制策略。 数据是人工智能的基石，我们必须在每个环节确保其完整性。
2. 持续进行测试
   超越传统代码审查，采用对抗性测试和红队演练。 这些方法帮助你发现模型反转和提示注入等漏洞，防止攻击者利用。
3. 坚持隐私优先设计
   采用加密、数据最小化和差分隐私技术。 这样即便发生安全事件，也能有效降低敏感数据泄露的风险。
4. 采用零信任架构
   在所有人工智能系统中坚持“永不信任，始终验证”的原则。 只赋予每个组件和用户最低限度的访问权限，严格审核每一次操作。
5. 实时监控AI行为
   部署工具和系统，识别模型行为或输入模式中的异常。 持续关注异常大量API调用、可疑提示或异常输出等，这些都可能表明存在活跃威胁。

随着越来越多的组织采用混合云和多云环境，我们通过应用交付与安全平台(ADSP) 提供原生AI安全功能，专为保护现代基础设施而设计。

作为平台的一部分，F5 AI Gateway通过智能检测和路由 LLM 请求，有效防御提示注入和数据泄露。 通过 F5 分布式云 API 安全和 NGINX App Protect 提供的高级 API 安全解决方案，为您的 API 防止滥用、数据外泄和攻击。

F5 ADSP 中的F5 分布式云机器人防御利用机器学习精准检测并拦截自动化威胁如撞库攻击，同时最大限度减少误报。 F5 BIG-IP Advanced WAF 解决方案保护应用和 API，减轻 GPU 的安全处理负担，从而提升 AI 密集型任务的性能。

此外，F5 的 AI 参考架构为混合云和多云环境中构建安全可靠的 AI 基础设施提供了具体方案。 F5 同时携手英特尔、Red Hat、MinIO、Google Cloud Platform 等领先的 AI 创新者，共同助力客户实现安全高效的规模化发展。

人工智能正在深刻改变各行各业，但它的潜力也带来了前所未有的风险。 面对日益复杂的威胁，安全领导者必须迅速且具远见地行动，采用主动防护工具、更智能的架构和策略引导的安全控制。

我们必须将人工智能安全深度融入企业战略的核心。 通过合理结合法规、技术和文化，并依托如美国国家标准与技术研究院的人工智能风险管理框架等成熟标准， 加上 F5 ADSP 平台的支持，您可以充分释放人工智能的潜力，同时有效防范其潜在风险。

人工智能新时代已经来临。 现在就要开始保护它。