不容忽视的5大趋势
一项面向全球1,100多名IT决策者的调查显示，自主管理的推理和多模型AI正在迅速普及。安全负责人需要关注由此带来的以下5项基础设施影响：
作为基础设施的多模型AI
模型路由形成新的安全边界
如今，组织平均使用7个AI模型，其中52%的组织会串联或编排多个模型。这带来了新的安全风险，例如路由操纵、通过模型链窃取数据，以及不同模型之间的策略执行不一致。模型路由属于基础设施，需要具备与应用流量路由类似的可观测性和控制措施。
AI驱动的自动化迅猛发展
自动化流量激增，需要加强治理
由机器触发的自动化操作（例如API调用、策略更新、配置乃至基础设施变更）即将超过由人工触发的运维流量。但大多数环境尚未做好准备，无法以机器级速度处理海量请求并对其进行监控或控制。自动化流量这一新的系统活动类别需要新的管理解决方案。
推理流量安全
推理流量安全与应用安全类似
超过半数的组织已使用网关和负载均衡器等共享基础设施来交付和保护AI推理，另有37%的组织计划在一年内采用这种方式。安全团队目前仍主要关注模型治理，但必须认识到，安全边界已转移到推理路径。当提示词如同请求、响应如同应用输出、模型如同服务时，就需要像处理其他关键应用交互一样，对推理流量进行交付、检查、身份验证和治理。
应用路径中的AI
AI已融入应用堆栈
如今，AI模型已不再是实验性或孤立的功能，而是生产应用中的依赖项。应用访问推理端点的方式，与调用API或微服务相同。但一旦AI进入应用路径，就必须像对待其他运行时依赖项一样，对其进行交付、观测和保护。
基础设施就绪情况
就绪意味着兼具容量与控制能力
超过三分之一的组织以及40%的高级IT领导者表示，其现有基础设施在计算、存储、网络或其他性能方面无法满足大规模支持AI的要求。其安全架构可能更为不足。并非为支持推理或智能体编排而设计的环境，同样也无法对相关流量进行观测和保护。这些盲区会带来安全风险。
保护组织并提前规划，助力大规模成功交付AI应用。下载信息图版洞察，与组织内的决策者分享。
