成功部署生成式AI模型的10个步骤

F5 Newsroom Staff

在整个组织范围内部署任何新的软件应用都是一项关键工作，需要采用稳健且结构化的方法。如果要部署的软件是大语言模型（LLM）或其他生成式人工智能（GenAI）模型，还需要考虑一些额外事项。我们总结了有助于顺利部署的10个步骤。

收集

召集将使用这些模型的各职能部门代表。这意味着所有相关职能部门都应参与，而不只是提出这一议题的部门，或人数最多、影响力最大的部门。一旦GenAI项目启动，各方都会希望参与其中，因此最好尽早预见这一点，避免在参数已经确定后再进行重大调整。团队规模既要足以涵盖各方，又要精简到能够做出决策并执行任务，也就是说，成员最多不超过10人。

评估

确定符合组织当前状况，并能为未来路线图和已明确的战略里程碑提供支持的业务需求和要求，包括近期、中期和长期需求。在考虑采用此类新技术时，就必须纳入考量的组织基本原则达成一致。

调研

评估现有产品并与供应商沟通，确定模型是否符合贵组织的业务需求和用例，以及模型能够和无法为贵组织完成哪些工作。根据所在行业和组织文化，部署一个大型通用模型（如ChatGPT或Claude）可能更合适。也可以采用一组规模较小、用途更专一的模型，为法务、财务或工程等特定团队提供支持，或服务于医疗保健、创意设计等特定行业。还可以像近期越来越多的组织一样，开发适合贵组织并使用专有知识库训练的内部模型。要求供应商提供有关已知漏洞及其他安全问题的信息。确保所有相关政府法规、行业安全标准以及组织政策和实践均得到落实。

规划

决定采用一个或多个模型后，制定项目时间表、分配资源并确定预算。确认模型能够与现有数字安全基础设施顺畅集成。明确部署前需要实施的变更和升级，包括为应对组织将面临的新增或扩大的风险而进行的变更和升级。制定评估标准和阈值，用于衡量模型使用对生产力及其他运营绩效指标的影响。

参与

向更广泛的利益相关方传达计划，包括计划的目的和益处。根据具体情况，这些信息应覆盖从董事会到基层的各个层级。主动征求反馈并回应他们的关切。

培训

此步骤不仅需要制定培训计划，确保最终用户获得所需的模型专项培训（计划内容可以仅限于在线资源或文档，也可以包括实践研讨会），还需要：

• 明确该计划与组织原则的一致性。
• 说明与模型使用相关的可接受使用政策及其他工作场所政策。
• 识别安全问题并说明安全协议。
• 概述针对潜在安全事件的适当响应措施。

测试

虽然并非每次都必须这样做，但在全面推广前，先向规模较小但具有代表性的群体部署新工具，通常是明智之举。这样可以深入了解集成、扩展、速度和计算资源等技术问题，并收集用户对易用性和整体实用性的反馈。请务必处理并解决出现的所有问题。

部署

无论选择分阶段部署还是全面部署，都应确保在整个组织内清晰传达部署计划及其他相关信息，并确保支持团队或服务台从部署开始时即可提供支持。

监控

在指标可用的范围内，跟踪并分析组织和个人的使用情况及模型性能，评估模型对业务活动的影响。持续监控系统，发现并应对未经授权的访问尝试和潜在的安全漏洞，因为这些问题可能会迅速造成严重后果。定期开展评估，确定是否需要更新技术或培训计划。收集、审查并回应用户或系统反馈，同时纳入最新的业务需求。

准备

始终保持灵活主动的思维方式，做好应对意外挑战的准备。

关于作者

F5 Newsroom Staff

F5 Newsroom Staff 的更多博客文章