Sentient.io借助F5 Distributed Cloud服务推动AI普及
Sentient.io是一家总部位于新加坡的AI和数据平台提供商，致力于让各种规模的企业都能更便捷地使用AI。F5 Distributed Cloud Services帮助Sentient.io简化分散的运营，在降低运营成本的同时，支持在边缘进行实时AI处理。
业务挑战
作为AI创新企业，Sentient.io一路走来取得了显著成就。为实现以变革性AI解决方案赋能各行各业的愿景，Sentient.io致力于提供实时洞察，助力企业有效决策。该公司的AI解决方案正在推动行业变革，帮助企业释放AI的变革潜力。Sentient Marketplace汇聚了多项创新AI服务，让企业能够轻松地将AI集成到现有工作流中。Sentient Marketplace帮助东盟各国和日本的客户充分发挥AI的潜力。
然而，业务快速增长和客户群不断扩大也带来了多项复杂挑战，主要包括多云环境的复杂性以及传统云原生处理方式的局限性。在跨多个云提供商运营时，各云提供商的独立解决方案本身就会带来挑战。例如，每家提供商都有专有的Kubernetes发行版（如GKE或AKS），对于需要在各自云环境中使用这些平台的组织而言，这可能难以应对。
客户站点的AI模型部署流程繁琐，进一步加剧了这些挑战。下载模型、为每个边缘站点搭建本地Kubernetes环境以及手动处理更新，不仅耗时，而且容易出错，导致模型部署延迟且不一致。此外，将新模型从中央Sentient Marketplace同步到客户站点也高度依赖手动操作，进一步降低了各客户站点的运营效率。
随着Sentient.io的AI应用逐渐获得客户认可，他们意识到，在本地、公有云和私有云等分布式环境中运营和部署这些服务面临诸多挑战。这导致其产品和服务的价值实现周期延长、运营复杂性增加，工作流编排和安全策略也不一致。此外，他们无法找到一种可跨任意云环境安全部署和交付AI应用的解决方案。
解决方案
Sentient.io认识到需要一种更精简、更高效的方法，因此与F5合作，利用F5 Distributed Cloud Services为多个垂直行业的客户提供交钥匙式企业级AI“即服务”解决方案，帮助客户释放AI潜力，赋能业务发展。
“F5 Distributed Cloud Services的价值在于，它不仅为AI提供强大支持，更是我们保障数据安全的秘密武器。 ”
Christopher Yeo，Sentient.io首席执行官
F5 Distributed Cloud App Stack是他们在平台上启用的一项关键服务，可支持在边缘实时处理数据。Distributed Cloud App Stack可将本地化推理数据交付到更靠近应用的位置，从而减少检索推理数据时对互联网或移动链路的依赖。
Distributed Cloud App Stack统一了其应用环境，无需再管理多个Kubernetes发行版，并简化了关键AI服务的部署和管理方式。这一简化带来了多项运营改进，使Sentient.io能够更高效地在任意云提供商的环境中轻松部署AI模型。
Sentient.io首席执行官Christopher Yeo表示：“借助F5 Distributed Cloud App Stack，我们向客户交付AI基础设施的方式发生了转变。通过在边缘处理数据，客户可以获得实时洞察，从而即时做出明智决策，无论数据量有多大，也无论客户身处何处。这一转变为我们的业务带来了革新，使我们走在AI创新前沿。”
展望未来，Sentient.io还计划探索使用F5 Distributed Cloud Services来保护其LLM解决方案。Yeo表示：“与F5的合作经验让我们有信心探索使用F5 Distributed Cloud Web Application and API Protection（WAAP），为LLM服务提供全面保护，并缓解拒绝服务和敏感信息泄露等LLM威胁。”
借助F5，Sentient.io能够帮助寻求创新AI/ML解决方案的企业更快实现价值。
成果
统一的PaaS平台
F5 Distributed Cloud Services 无需再管理多个云环境，从而简化了运维并提高了效率。这使 Sentient.io 能够更敏捷地跨多个云服务提供商部署 AI 模型，并提升可扩展性
“得益于F5 Distributed Cloud App Stack，我们的AI交付方式实现了显著转变。这一转变为我们的业务带来了革新，使我们走在AI创新前沿。 ”
Christopher Yeo，Sentient.io首席执行官
边缘端实时洞察
该解决方案简化了Sentient的运营流程，降低了延迟，并支持在边缘进行实时AI处理。在边缘执行推理可消除地理位置造成的网络和带宽限制，确保将推理结果实时、即时地交付给应用。这种模型部署方式的转变使Sentient.io能够更快实现价值，并为客户提供高性能AI应用。
Distributed Cloud App Stack内置GPU功能，可减少Sentient在每个推理站点部署额外GPU资源的需求。
降低成本并增强安全性
通过将运营整合到Distributed Cloud Platform，他们得以优化资源分配并降低整体运营成本。该平台原生集成并支持应用和API安全，确保所有推理应用均受到保护。
此次合作还显著节省了成本。管理多个云平台需要专门的团队，并会产生大量资源成本。借助F5 Distributed Cloud Services，Sentient简化了运营，通过优化资源和简化应用管理来降低成本，从而释放资源用于战略计划。
Yeo表示：“F5 Distributed Cloud Services的价值在于，它不仅为AI提供强大支持，也是我们保障数据安全的秘密武器。关键在于信任。借助F5，Sentient.io不仅能够持续创新，还能切实保障数据隐私和完整性。”
