安全运营团队如何看待人工智能？

新技术总是让人兴奋。 你一定记得第一次使用大型语言模型（LLM）提示、第一次打开网页浏览器，以及数据存在“云端”这一疯狂概念时的感受。 但是，每一项新技术背后，都有一支负责任的安全团队在努力，确保大家能安全地使用这些创新。 虽然人工智能带来了许多热点话题和未来可能性，但在我们明确F5在AI安全中的角色时，我们觉得有必要停下来问问你，安全社区对人工智能怎么看？

因为我们在 F5 这里非常关心我们的客户，所以我们分析了过去一年（2024 年 7 月至 2025 年 6 月）互联网上最大的安全专业人士社区 Reddit 的 r/cybersecurity 中的顶级用户的每一条与 AI 相关的评论。 我们将每个评论和用户分类到情绪桶中，并提取每个评论和用户表达的或潜在的痛点。

一半的SecOps对人工智能充满信心。他们已在系统中采用AI工具，自动完成重复任务，或借助AI助手优化警报优先级。

“它在识别新入侵模式上表现出的精确度令我印象深刻。”

“人工智能已经成为趋势，把它当作你的助力，你的帮手。”

另一半人则在恐惧与怀疑之间徘徊：他们害怕保障人工智能系统安全的挑战，也对人工智能能否超越现有进展持怀疑态度。

人工智能对数据需求的增长与网络安全的基本原则之间的矛盾，让数据安全成为了热议的核心。 年初，安全专家们将其视为最优先的问题，随着企业加快人工智能的应用，这种关注进一步加深。

“让人工智能有效发挥作用的是数据。 它获取的数据越多，其效率就越高。 该模型与通过访问控制、网络分段和最小特权原则确保数据访问安全直接矛盾。 任何大规模采用人工智能的人都必须有效地消除许多阻止人工智能模型访问数据的安全控制。 企业当前面临的选择是，他们想要有效的人工智能还是想要安全。”

该领域最突出的问题是影子AI，即用户未经授权与AI系统交互。 无论组织在AI应用处于何种阶段，这一问题都会持续存在，无法通过AI成熟度消除。

虽然数据安全是焦点，但在安全运营中，可观察性和异常检测同样是最受关注的 AI 领域。 供应商不断强调 AI 在支持安全流程上的作用，而从业者则强调需要保持平衡： “AI 安全代理的能力有限，始终需要人类介入辅助。” 但他强调，“这一切都建立在严格的规则和控制之上。” 大家的一致呼声是：实现 AI 交互的持续可视化和跟踪，实现重复工作的自动化，关键的战略决策仍由人来把握。

“理解人工智能的最好方式是将其视为能够让攻击者拥有数十甚至数百名员工助力的工具……如今，我估计顶尖5%的攻击者能提升50%到300%的效率。” 这不是假设性的威胁，而是一种提升整体能力的助力，让投机者的起点更高，也让复杂攻击者的能力大增。 实际中，我们会围绕两类变化展开讨论：针对AI系统的新型对抗技巧，比如提示注入或越狱攻击；以及网络钓鱼和深度伪造等社会工程攻击的恶意普及化。 随着模型和智能代理接入更多工具和数据，您对后者的担忧也在不断加剧。 

还有12%的痛点将模型行为和输出质量本身视为安全风险。 最主要的担忧包括幻觉、准确性不足和有害输出，然而其中最严重的是权限升级——AI访问其无权限的数据或执行相关任务。 因此，SecOps推动实施实用的防护措施：根据业务风险调整内容审核，确保政策一致，以及为模型和代理设定明确权限。

安全团队从言外之意，甚至直言不讳地表达出，他们期望供应商达到更高的标准。

• 优先保障数据安全 —利用DLP执行AI策略，并采用最小特权原则的访问控制
• 拒绝“AI噱头”——以更多可信证据展示安全和合规能力，而非空洞承诺
• 让可观察性满足审计需求并易于使用——简化现有 SIEM/SOAR 工作流程的集成，在所有交互中嵌入可视化
• 为人为核心提供灵活性——设计时优先关注影响力，而非单纯追求速度
• 对抗韧性——人工智能 攻击面在不断变化，解决方案必须跟随新威胁不断演进
• 简化策略管理——让您轻松满足企业整体政策和监管要求，无需额外人工操作