Sentient.io 利用 F5 分布式云服务实现 AI 民主化

Sentient.io 是一家总部位于新加坡的人工智能和数据平台提供商,致力于让各种规模的企业都能轻松使用人工智能。 F5 分布式云服务帮助简化了 Sentient.io 的分散运营,降低了运营成本,同时支持边缘的实时 AI 处理。

商业挑战

Sentient.io 作为人工智能创新者的历程取得了显著的成功。 Sentient.io 旨在实现通过变革性 AI 解决方案赋能各行各业的愿景,致力于提供有助于推动有效决策的实时洞察。 该公司的 AI 解决方案正在彻底改变行业,使企业能够释放 AI 的变革力量。该公司的 Sentient Marketplace 是创新 AI 服务的中心,使企业能够轻松地将 AI 集成到其现有工作流程中。 Sentient Marketplace 使东盟国家和日本的客户能够利用人工智能的力量。

然而,快速增长和不断扩大的客户群带来了一些复杂的挑战,即多云环境的复杂性和传统云原生处理的局限性。 单个云提供商解决方案在跨多个提供商运营时会带来固有的挑战。 例如,每个都提供专有的 Kubernetes 发行版(GKE 或 AKS),这对于需要在各自云环境中利用这些平台的组织来说可能会很困难。

进一步加剧挑战的是客户现场人工智能模型的繁琐部署过程。 下载模型、为每个边缘站点设置本地 Kubernetes 环境以及手动处理更新的手动方法不仅耗时而且容易出错,从而导致延迟和模型部署不一致。 此外,将新模型从中央 Sentient 市场同步到客户站点是一个非常手动的过程,这导致整个客户站点的操作缺陷增加。

随着 Sentient.io 的 AI应用受到客户的青睐,他们意识到在分布式环境(本地、公共云和私有云)中操作和部署这些服务的挑战。 这导致其产品的价值实现周期更长,运营复杂性增加,工作流程编排和安全策略不一致。 此外,他们找不到可以跨任何云安全部署和交付其 AI应用的解决方案。 

解决方案

Sentient.io 认识到需要一种更精简、更高效的方法,因此与 F5 合作,利用 F5 分布式云服务为各个垂直领域的客户提供交钥匙、企业级 AI“即服务”解决方案,以释放 AI 为其业务带来的力量。

F5 分布式云应用程序堆栈是他们在平台上启用的关键服务,可实现边缘的实时数据处理。 分布式云应用程序堆栈使本地化的推理数据能够更接近应用,从而减少对基于互联网或移动链接的推理数据检索的依赖。 

分布式云应用程序堆栈统一了他们的应用环境,无需管理多个 Kubernetes 发行版,并简化了他们部署和管理关键 AI 服务的方式。 这种简化带来了许多操作改进,并允许 Sentient.io 轻松地在任何云提供商上部署 AI 模型并提高效率。 

Sentient.io 首席执行官 Christopher Yeo 表示:“得益于 F5 分布式云应用程序堆栈,我们向客户提供 AI 基础设施的方式发生了转变。” “在边缘处理数据可以解锁实时洞察力,使我们的客户能够做出即时、明智的决策——无论数据量如何或他们身在何处。 这种转变彻底改变了我们的业务,使我们处于人工智能创新的前沿。” 

展望未来,Sentient.io 还希望探索 F5 分布式云服务以保护其 LLM 解决方案。 Yeo 表示:“我们与 F5 的合作经验让我们有信心探索 F5 分布式云 Webapplication和 API 保护 (WAAP),以全面保护我们的 LLM 服务并减轻拒绝服务和敏感信息泄露等 LLM 威胁。”

Sentient.io 能够帮助寻求创新 AI/ML 解决方案的企业通过 F5 加快价值实现速度。 

结果

统一的 PaaS 平台

F5 分布式云服务消除了管理多个云环境的需要,简化了操作并提高了效率。 这使得 Sentient.io 能够跨多个云提供商部署 AI 模型,并提高灵活性和可扩展性

边缘实时洞察

该解决方案简化了 Sentient 的运营,减少了延迟并实现了边缘的实时 AI 处理。 在边缘进行推理可消除由于地理位置造成的网络和带宽限制,并确保实时将推理立即传递给应用。 模型部署的这种转变使 Sentient.io 能够以更快的价值实现时间向客户提供高性能的 AI应用。

分布式云应用程序堆栈包含内置的 GPU 功能,这减少了 Sentient 在每个推理站点上部署额外 GPU 资源的需要。

降低成本并增强安全性

通过将操作简化到分布式云平台上,他们能够优化资源分配并降低总体运营成本。 平台上对应用和 API 安全的本机集成和支持确保所有推理应用程序都受到保护。

此次合作还带来了显著的成本节约。 管理多个云平台需要专门的团队并产生大量的资源成本。 借助 F5 分布式云服务,Sentient 简化了运营,通过优化资源和简化应用管理来削减成本,释放资源用于战略计划。

Yeo 表示:“F5 分布式云服务的特点是,它不仅是 AI 的强大引擎,更是我们数据安全的秘密武器。 一切都关乎信任。 在 F5 的帮助下,Sentient.io 不仅能够创新,还能确保数据隐私和完整性坚如磐石。”

查看所有客户案例

 

好处
  • 协调 AI 服务的一致工作流程
  • 简化数千个边缘站点的运营
  • 安全地传输训练数据以用于推理
  • 加快 AI 部署的上市时间

挑战
  • 多云环境下的复杂性增加
  • 传递人工智能数据的工作流程不一致
  • 确保分布式人工智能基础设施的安全

产品