企业必须了解所部署代理式人工智能解决方案的运营影响。 代理式记忆正迎来快速创新,成为衡量运营效果的下一个风向标。 为什么? 代理式“长时记忆”的创新直接推动代理式人工智能的发展,而代理式人工智能又直接影响网络。
根据标准普尔全球数据公司最新报告,“推理、多智能体系统和检索技术的进展正推动智能体人工智能的发展: 智能体 AI 正在通过先进的推理框架、动态多智能体协作模型和智能检索技术快速演进。 这些创新使智能体能够自主感知、规划和执行,提高在复杂现实环境中的扩展性、适应性和个性化能力。”
长记忆技术的进展正在推动智能代理型人工智能的创新。作为先进推理框架的代表,如LangMem、Memobase和Mem0,运用一种全新的记忆功能,使您能够在代理操作过程中及其间隙,访问信息的状态、上下文和演变。 这些数据的生成、存储、更新、传输和共享不断增加您的网络负荷。
此外,代理记忆系统成为一个新的数据存储位置,多个需要共享和更新信息的代理群体——包括企业和个人——都能访问。你必须像对待其他企业资产那样,严格维护、管理、审计并保护这些信息。 这一现象对网络流量产生了三个方面的影响。
根据诺基亚全球网络流量报告,到2033年,企业AI流量将以57%的复合年增长率增长。 为什么会这样? 代理引入了部署前不存在的新流量,这加大了带宽消耗并可能导致延迟。 这种流量表现为API调用。 更多代理执行更多操作,就意味着发出更多API调用,从而影响API端点的响应速度。 检索增强生成(RAG)也是API调用增长的重要来源,因为动态检索记忆让系统能感知不断变化的上下文。 这意味着RAG不再静态,而是实时更新。 RAG增多导致对矢量数据库的API调用频率上升,用于更新数据和丰富推理。
IDC 报告指出,企业正在将 GenAI 路线图与网络现代化进程相结合,以支持自主 AI 负载。 更多的网络流量路径在各方向涌现,随着代理和资源的增加,数据路径网格呈指数级扩展。 集装箱之间的流量增加。 进出容器主机的流量更多。 进出容器 Pod 与集群的流量也在增长。 增多的网络路径要求我们施加更多策略、增强网络组件配置并加大自动化力度。 网络地图变得愈加复杂,监控活动随之增加。 结果是什么? 最终,这些汇聚成一个更庞大的环境——数据路径网格,我们必须对其维护、安全与治理负责。
更多路径意味着我们需要发出并收集更多的操作遥测数据。 这些遥测数据支持从运营管理和故障排查到安全治理的各类可观测性。 代理、模型和资源高度集中会导致集中架构中的网络拥堵。 智能路由能在一定程度上缓解拥堵,但它需要平衡网络不同部分的负载,如果网络容量不足,效果可能有限。
幸运的是,企业可以将微服务的实践经验应用到代理式人工智能中。运营遥测的爆炸性增长促使您必须制定成本控制策略,比如确定哪些遥测数据必须发送、收集、分析和存储。
自主型人工智能仍在开发阶段。 随着开发人员推出工具和开发包,IT运维人员要提前为其对网络带来的必然影响做好准备。
准备最充分的组织会结合开发者的原型和早期基础设施测试,监控并评估网络影响,从而及时实施改进,确保生产部署顺利进行。 协作与沟通能有效降低各职能部门步调不一致的风险。 此外,跟踪具主动性的记忆技术创新节奏,能帮助网络运营商始终走在创新前沿。
一旦智能代理创新稳定,IT运营商就会意识到企业规模智能代理解决方案即将在他们的网络上部署。