关于人工智能applications你应该知道的三件事
您可能应该知道的事情不止三件，但让我们从这三件开始，好吗？
首先，我们必须认识到人工智能是真实存在的。 是的，它被夸大了。 是的，整个投资组合都在被“人工智能洗脑”，就像十多年前一切突然都变成了“云”产品一样。 但根据知情人士的说法，这是真实存在的，也就是说，我们最近的调查中的决策者重点关注了人工智能。
虽然大多数组织（69%）正在对技术和用例进行研究，但 43% 的组织表示他们已经大规模实施了人工智能。 这要么是生成性的，要么是预测性的。
令人不安的是，47% 已经实施某种类型人工智能的人没有制定任何人工智能战略。如果我们从公有云热潮中学到了什么，那就是没有战略就贸然行动会在未来带来问题。
为了帮助您定义该策略（尤其是在试图了解运营和安全影响时），我们列出了您应该考虑的三件事。
1. 人工智能应用是现代应用
虽然没有必要这么说，但是我们还是说一下吧。 人工智能应用是现代应用。 虽然人工智能应用的核心是模型，但还有许多其他组件（推理服务器、数据源、解码器、编码器等）构成了“人工智能应用”。
这些组件通常作为现代应用部署；也就是说，它们利用 Kubernetes 及其结构实现可扩展性、调度甚至安全性。 由于不同组件具有不同的资源需求（某些工作负载将受益于 GPU 加速，而其他工作负载只需要普通的 CPU），因此将其部署为现代应用是最有意义的，并且可以更灵活地确保 AI应用中的每个工作负载都根据其特定的计算需求进行最佳部署和扩展。
这意味着人工智能应用面临着与任何其他现代应用相同的许多挑战。 从扩展和保护现有现代应用所获得的经验教训将帮助您对 AI应用做同样的事情。
战略要点： 利用现有的知识和实践进行应用交付和安全，但要扩展到包括认识到人工智能应用的不同组件可能有不同的资源需求的方法，例如计算密集型任务的 GPU 加速或计算密集度较低的工作负载的 CPU 资源。 现代应用部署允许根据每个组件的特定要求灵活地分配资源，从而优化性能和成本效率。
2. 人工智能应用与现代应用不同
是的，我知道我刚刚强调了“它们是现代应用”这一点，但存在影响架构、操作和安全性的差异。
首先，人工智能应用交换非结构化数据。 这些提示没有格式、长度或数据类型要求，而对多模式 LLM 的热切采用只会增加“请求”的混乱。 从大多数 AI应用将提示和响应包装在 JSON 有效负载中的意义上来说，我想您可以说它是结构化的，但事实并非如此，因为实际有效负载是未定义的。
其次，人工智能应用几乎完全通过 API 与模型进行通信。这意味着使用“人”或“机器”作为访问基本标准的机器人检测解决方案不会那么有用。 安全服务有助于从“好机器人”中剔除“坏机器人”，将成为任何人工智能战略的重要组成部分。 对 API 的依赖也是原因之一，在我们的年度研究中，我们发现保护 AI 模型的首要安全服务是 API 安全。
最后，人工智能应用的交互模式通常是动态的、多变的和不可预测的。 一般来说，今天的安全服务会监视每页鼠标点击和打字率的异常，因为这些服务可以根据与既定的人类平均标准的偏差推断“机器人”行为。 当有人使用对话界面时，这种方法就行不通了，他们可能会以非常不规律的方式输入、重新输入和提交问题。 鉴于当今许多安全解决方案依赖于行为分析（包括 API 安全），这意味着需要进行一些调整。
战略要点： 您将需要额外的安全功能来正确管理 AI应用。 重新考虑可能无法充分捕捉对话互动细微差别的传统安全方法。 探索创新方法，例如实时监控交互模式和基于上下文线索的自适应访问控制机制。 认识到 API 在促进与 AI 模型通信方面的关键作用。 投资强大的 API 安全解决方案，以防止未授权访问、数据泄露和恶意攻击。
3. 不同的AI应用将使用不同的模型
就像最终的多云现实一样，组织极不可能在单一的 AI 模型上实现标准化。 这是因为不同的模型可以更好地适应某些用例。
这就是为什么我们毫不惊讶地得知，普通企业已经在使用近三种（2.9）种不同的模型，包括开源模型和专有模型。 当我们根据用例来观察模型的使用情况时，我们开始看到一种模式。 例如，在严重依赖敏感公司数据或想法（安全操作和内容创建）的用例中，我们看到了明显的开源模型趋势。 另一方面，从自动化的用例来看，我们发现微软的使用率正在上升，这主要是因为它能够与许多组织已经在使用的工具和流程集成。
理解这一点很重要，因为交付和保护 SaaS 管理的 AI 模型所需的实践、工具和技术与云管理的 AI 模型不同，也与自我管理的 AI 模型不同。 虽然确实有相似之处（特别是在安全性方面），但对于所使用的每种部署模式，都存在需要解决的显著差异。
战略要点： 分析组织内的用例并确定采用不同 AI 模型的模式。 考虑数据敏感性、集成能力以及与现有工具和流程的一致性等因素。 根据每种部署模式的具体特点定制部署和安全方法。
构建、操作和保护 AI应用时需要考虑很多因素，其中最重要的是对模型安全性和可扩展性的所有新要求。 但是，过去十年在核心、云和边缘部署现代应用所获得的许多经验教训将为组织提供良好的服务。 核心挑战依然相同，以同样的严谨程度来扩展和保护人工智能应用，将对成功实施大有帮助。
但是，如果忽视对差异的关注，在没有至少半正式的战略来解决交付和安全挑战的情况下贸然行事，势必会导致日后的失望。