Sentient.io 借助 F5 分布式云服务实现人工智能民主化
Sentient.io 是一家总部位于新加坡的 AI 和数据平台提供商，致力于为各种规模的企业实现人工智能民主化。F5 分布式云服务帮助 Sentient.io 简化了分散的运营操作，降低了运营成本，同时在边缘实现了实时 AI 处理。
业务挑战
作为一家 AI 创新企业，Sentient.io 的发展历程充满了显著的成功。在追求通过变革性的 AI 解决方案赋能多个行业的愿景中，Sentient.io 致力于提供实时洞察，帮助推动有效决策。该公司的 AI 解决方案正在颠覆各个行业，赋能企业释放 AI 的变革力量。Sentient Marketplace 是公司的创新 AI 服务枢纽，使企业能够轻松地将 AI 集成到现有工作流程中。Sentient Marketplace 使东盟国家和日本的企业客户能够更好地利用 AI 的力量。
然而，快速增长和不断扩大的客户群带来了一些复杂的挑战 — 多云环境的复杂性和传统云原生处理的局限性。在跨多个提供商运行时，单个云提供商的解决方案会带来固有的挑战。例如，每个提供商都提供专有的 Kubernetes 发行版（GKE 或 AKS），这对于需要在各自云环境中利用这些平台的企业来说非常棘手。
在客户站点部署 AI 模型的繁琐流程进一步加剧了挑战。手动下载模型、为每个边缘站点建立内部 Kubernetes 环境并手动处理更新的方法不仅会耗费大量时间，而且容易出错，导致模型部署延迟和不一致。此外，将新模型从中央 Sentient Marketplace 同步到客户站点也需要大量手动操作，导致客户站点之间的运营缺陷增加。
随着 Sentient.io 的人工智能应用获得客户的青睐，他们意识到在企业内部、公共云和私有云等分布式环境中运营和部署这些服务所面临的挑战。这导致他们所提供的产品的价值实现周期延长，运营复杂性增加，工作流协调和安全策略不一致。此外，他们还找不到一个可以在任何云上工作的解决方案，可以安全地部署和交付 AI 应用程序。
解决方案
Sentient.io 认识到需要一种更简化、更高效的方法，因此， Sentient.io 开始与 F5 合作 — 利用 F5 分布式云服务，向各行各业的客户提供现成的企业级 AI "即服务 "解决方案，以解锁 AI 应用在他们业务上的强大潜力。
F5 分布式云应用栈（F5 Distributed Cloud App Stack）是他们在平台上启用的核心服务，可实现边缘实时数据处理。分布式云应用栈使本地化推理数据的交付更接近应用，减少了对基于互联网或移动链接的推理数据检索的依赖。
分布式云应用程序栈统一了他们的应用程序环境，无需管理多个 Kubernetes 发行版，并简化了他们部署和管理核心 AI 服务的方式。这种简化带来了许多运营方面的改进，使 Sentient.io 能够在任何云提供商之间轻松部署 AI 模型，这大大提高了效率。
"Sentient.io 首席执行官 Christopher Yeo 说："在 F5 分布式云应用栈的帮助下，我们为客户提供 AI 基础架构的方式发生了转变。Sentient.io 首席执行官 Christopher Yeo 说："在边缘处理数据可以释放实时洞察，使我们的客户能够做出即时、明智的决策 — 无论数据量有多大，也无论他们身在何处。这一转变彻底改变了我们的业务，使我们站在了 AI 创新行业的前沿。
展望未来，Sentient.io 还希望探索 F5 分布式云服务，以确保其 LLM 解决方案的安全。"Yeo表示："与 F5 合作的经验让我们有信心采用 F5 分布式云 Web 应用和 API 防护（WAAP），来全面保护我们的 LLM 服务，并减轻拒绝服务和敏感信息泄露等 LLM 威胁。
Sentient.io 能够借助 F5 为寻求创新 AI /移动语言解决方案的企业加快实现价值的速度。
成果
统一的 PaaS 平台
F5 分布式云服务消除了管理多个云环境的必要性，简化了操作并提高了效率。这使得 Sentient.io 能够更灵活、更可扩展地在多个云提供商之间部署 AI 模型。
边缘实时洞察
该解决方案简化了 Sentient 的运营，减少了延迟，并实现了在边缘的实时 AI 处理。在边缘进行推理消除了因地理位置造成的网络和带宽限制，确保了实时将推理结果交付给应用程序。这种部署方式的转变使 Sentient.io 能够为客户提供高性能的 AI 应用程序，更快地实现价值。
分布式云应用程序栈包括内置的 GPU 功能，这减少了 Sentient 在每个推理站点部署额外 GPU 资源的需要。
降本增效，安全防护
通过在分布式云平台上简化操作，他们能够优化资源分配，降低总体运营成本。平台上对应用程序和 API 安全性的本地集成和支持确保了所有推理应用程序都受到保护。
这种合作还大大节省了成本。管理多个云平台需要专门的团队，并产生大量资源成本。借助 F5 分布式云服务，Sentient 简化了操作，通过优化资源和简化应用管理来削减成本，从而腾出资源用于战略性举措。
Yeo 说："F5 分布式云服务不仅仅是 AI 的强大动力，也是我们保障数据安全的秘密武器。一切都在于信任。通过 F5，Sentient.io 不仅实现了创新，还确保了数据隐私和完整性坚如磐石。
- 协调 AI 服务的一致工作流程
- 简化数千个边缘站点的操作
- 为推理目的安全提供训练数据
- 加快 AI 部署的上市时间
- 跨多个云的复杂性增加
- 提供人工智能数据的工作流程不一致
- 确保分布式 AI 基础设施的安全