迈向精准：为何对AI过度过滤会付出高昂代价

F5 Newsroom Staff

当组织开始将生成式人工智能（GenAI）集成到工作流中时，自然会担心AI模型生成的内容，以及使用这项新兴技术所带来的实际风险和潜在风险。一些供应商为应对这些担忧，推出安全工具，强行阻止模型提示或响应中任何可能存在疑问的内容。但实际情况是：这种做法非常不可取。 

全面屏蔽不符合僵化统一标准的内容，理论上听起来不错，但在实践中极不现实，而且往往会造成不利影响。为什么？因为每个组织的情况各不相同。一家公司认为“有风险”或“不可接受”的内容，对另一家公司而言，可能只是日常业务内容、宝贵数据或关键信息。依赖供应商来决定员工可以访问哪些内容或与哪些内容交互，只会造成不必要的阻碍和困扰。

过度过滤的问题

不妨设想一下：有些内容过滤器只关注关键词，算法中并未纳入上下文或正则表达式（RegEx），因此会屏蔽被其判定为“异常”或“不当”的主题。这意味着，如果AI提示词包含表述不佳的有用信息，甚至包含完全安全、但不符合第三方供应商所设狭窄参数的主题，也会遭到不必要的屏蔽。这就像孩子睡着后想看一部PG-13级电影，却因为没有密码而无法绕过家长控制。

很让人头疼，对吧？因此，当员工的提示词被拦截时，IT团队不得不再次联系供应商，低声下气地请求改造过滤器或降低过滤级别。然而，许多此类工具在设计时并未考虑调整需求，只能采用临时变通方案。如果这种情况每天或每周发生多次，这些临时修补措施很容易给客户公司带来更大的问题，仓促实施的补救措施往往如此。例如，医疗健康相关机构的员工很可能经常需要编写涉及身体部位的提示词，这不仅可以接受，而且确有必要。拦截这些词语会造成严重问题。（但如果会计师事务所的员工在提示词中使用相同词语后被拦截，则说明过滤器按预期运行。）

现在，设想一下，提示词不断被拦截、还要反复联系供应商，这些持续不断的麻烦会给企业带来什么影响：IT资源被迫从计划内工作中抽调，人员和项目也不得不承受不必要的延误。项目可能在关键时刻停滞，生产力陷入停顿；在等待供应商处理一项范围未明确的变更时，延误还可能造成收入损失。供应商通常会提出什么建议？一般来说，他们会希望先彻底关闭过滤器，再设法快速修复。但这样做存在风险，因为一旦取消过滤，系统原本应拦截的所有不良内容都会被放行。而这一切，都是因为误报过多。这正是为追求完美而牺牲进展的典型例子。

灵活性与精准性的重要意义

每家公司都有自己的风险偏好、企业文化和信息需求。因此，第三方供应商不应通过一刀切的规则限制贵公司访问关键数据。更不应由其决定团队可以查看哪些内容，尤其是在其不了解贵公司业务细节，也不清楚贵公司为何需要特定信息的情况下。坦率地说，这不仅是越俎代庖，更侵犯了贵公司的运营自主权。 

F5采用一种与众不同、甚至可能颇具争议的策略： 我们帮助客户逐步实现精准控制。我们不会通过过度过滤来追求尽善尽美，而是采取更均衡的方法。我们的解决方案旨在拦截大多数公司都认为不应进出其系统的80%内容。这是基本保障：强有力的保护，尽可能减少阻碍。但真正值得关注的是：客户可以决定如何处理其余20%的内容。没错，我们让您根据自身的独特需求、用例和风险承受能力，定义哪些内容应被拦截，哪些不应被拦截。无需受制于僵化的第三方过滤规则，也无需请求供应商临时调整。控制权由您掌握。

量身契合您的业务需求

每个组织都有不同的需求。随着业务发展，无论是经历合并、收购、资产剥离，还是项目自然推进，内容过滤器也需要随之调整。F5 AI Guardrails 可提供这种灵活性。您可以随时创建和修改自定义扫描器。无论是更新过滤器以适应新产品线、随着客户群扩大而放宽内容限制，还是根据公司文化的变化调整限制，该平台都能随之适应。无需受制于无法反映当前实际情况且不可更改的静态过滤器。组织的需求不应由供应商决定。您需要的是一种解决方案，让团队能够获取所需信息，同时避免面临风险或屏蔽有价值的数据。

面临的挑战

因此，我们向您发出挑战： 不要被一些供应商包装成“功能”的炒作和局限所迷惑。他们僵化且过度敏感的过滤器正在阻碍您的发展。不妨试试F5。您可以根据自身需求创建自定义扫描器。我们的AI运行时安全解决方案不会审查内容、过度拦截，也无需等待供应商批准。它们让您能够准确获取所需信息，不多不少。这意味着，您的安全能力可以与所面临的威胁同步提升。当您准备好掌控自己的生成式AI解决方案时，我们将随时提供帮助。

关于作者

F5 Newsroom Staff

F5 Newsroom Staff 的更多博客文章