企业需要了解所部署的智能体AI解决方案会对运营产生哪些影响。当前，智能体记忆领域的创新正在加速，使其成为衡量运营影响的下一个风向标。为什么？智能体“长期记忆”的创新正直接推动智能体AI加速创新，而智能体AI会直接影响网络。
根据S&P Global Data近期发布的一份报告，“推理、多智能体系统和检索技术的进步正在推动智能体AI发展：借助先进的推理框架、动态多智能体协作模型和智能检索技术，智能体AI正在快速演进。这些创新使智能体能够自主感知、规划和行动，并提升其在复杂现实环境中的可扩展性、适应性和个性化能力。”
长时记忆技术的进步正在推动智能体AI创新。这类技术也称为高级推理框架，例如LangMem、Memobase和Mem0。它们利用新型记忆功能，在智能体工作流执行期间及不同工作流之间提供对信息状态、上下文和演变过程的访问。所有这些数据创建、存储、更新、移动和共享操作都会增加网络需求。
此外，智能体记忆系统构成了一个新的数据存储位置，需要共享和更新企业及个人信息的智能体群组可能会访问该位置。与其他企业资产一样，这些数据必须得到严格的维护、治理、审计和保护。这一现实会对网络流量产生三方面影响。
1. 智能体AI增加网络流量
根据《Nokia全球网络流量报告》，到2033年，企业AI流量预计将以57%的复合年增长率增长。原因何在？智能体会产生部署前并不存在的新流量，从而增加带宽消耗，并可能导致延迟。这些流量以API调用的形式出现。更多智能体执行更多操作，意味着API调用增多，进而影响API端点的响应速度。随着智能体的普及，检索增强生成（RAG）可能成为另一个不断增长的API调用来源，因为动态检索记忆能够感知不断变化的上下文。这意味着RAG将不再是静态的，而是实时更新。更多RAG意味着需要对向量数据库发起更多API调用，以更新数据并丰富推理。
2. 智能体AI提高流量密度
IDC报告称，企业正在协调GenAI路线图与网络现代化工作，以支持智能体AI工作负载。随着智能体和资源不断增加，更多网络流量路径向各个方向延伸，形成呈指数级增长的数据路径网格。容器之间的流量增多。进出容器主机的流量增多。进出容器Pod和集群的流量增多。网络路径增加，需要制定更多策略、对网络组件进行更多配置，并实施更多自动化。网络拓扑图变得更加复杂，监控活动也随之增加。结果如何？这些因素共同形成了一个更庞大的环境，即需要实施维护、安全和治理流程的数据路径网格。
3. 智能体AI需要更多遥测数据
路径越多，需要发出和收集的运行遥测数据就越多。这些遥测数据支持各类可观测性场景，包括运营管理、故障排除、安全和治理。在集中式架构中，代理、模型和资源高度集中可能会造成网络拥塞。智能路由可以在一定程度上缓解这一问题，但需要在不同网段之间平衡拥塞。如果网络容量不足，这种做法可能并无实际帮助。
值得庆幸的是，企业可以将采用微服务时积累的经验应用于智能体AI。运营遥测数据同样会激增，因此也需要采取类似的成本控制措施，例如确定哪些遥测数据值得发送、收集、分析和存储，以及相应的数据量。
如何做好应对影响的准备
智能体AI仍处于构建阶段。在开发人员创建工具和开发套件的同时，IT运维人员需要为其网络必然受到的影响做好准备。
准备更充分的组织会将开发人员原型与早期基础设施测试相结合，以监控和衡量对网络的影响，从而及时实施增强措施，为生产环境部署做好准备。协作与沟通本身有助于降低不同职能部门进度脱节的风险。此外，跟踪智能体记忆技术的创新步伐，将帮助网络运维人员紧跟创新趋势。
随着智能体记忆技术创新逐渐成熟，IT运维人员将意识到，首个企业级智能体解决方案在其网络中部署的时机日益临近。
关于作者
相关博客文章
2023年应用策略现状：成本与复杂性是推动多云网络发展的首要因素
多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联，为解决当今混合IT面临的挑战提供支持，因而备受业界关注。