(若想深入了解这些模式,你可以查看 Chris Hain 的博客)
有许多提供商将托管开源模型以支持 SaaS 管理模式,并且许多云提供商也提供开源即服务。
OpenAI 模型不仅可通过 OpenAI 以 SaaS 管理模式使用,还可通过 Microsoft 以云管理模式使用。 Mistral 是一种流行的开源模型,可以采用这三种模式进行部署。 这就是为什么我们将用例视为模型选择的主要驱动因素,因为企业可以选择混合搭配模型和部署模式。
组织已经感受到了不仅需要训练模型而且需要操作和保护模型所需技能的压力。 因此,对于许多运营专业知识有限的组织来说,按用例匹配模型是最有意义的。 将资源集中在那些由于安全或隐私原因无法以共享模式部署的用例上,最终将获得最好的结果。
但要警惕运营短视的危险,这可能会导致组织内部出现孤岛。 我们已经在云计算中看到了这种情况的发生,毫无疑问,我们将在企业生成人工智能中再次看到这种情况。 但是,意识到按模型隔离操作和安全的危险,人们希望组织能够避免由此产生的复杂性和风险,并战略性地选择能够充分利用运营资源、能力和预算的模型和部署模式。
现在还为时过早,当你读到这篇文章时,毫无疑问将会出现新的供应商和具有新功能的新模式。 但部署模式基本保持不变,这使得在运营方面可以进行更具战略性的规划——从预算到人员配备,再到您需要保护和扩展您可能选择的任何模型的应用服务。