关于ADC Top 10的博客文章
Application Delivery Top 10
关于ADC Top 10的博客文章(10)
排序方式:
筛选条件

行业趋势 | 08/06/2026
AI应用交付十大问题:资源利用率低
AI会导致资源利用率大幅波动:请求成本会因提示词、上下文和推理过程而显著变化,因此仅按每秒请求数(RPS)进行路由会造成GPU负载热点、请求排队和延迟骤增。
作者:Lori Mac Vittie
行业趋势 | 07/30/2026
AI应用交付十大要点:定制应用需求
AI让“定制化”从少数情况变为常态:请求会形成组合式调用链(模型选择、检索、策略和工具),因此交付必须针对每个请求进行调整,而不是按应用统一处理。
作者:Lori Mac Vittie
行业趋势 | 07/23/2026
AI应用交付十大挑战:缺乏安全保障且不符合法规要求
AI将合规范围从保护传输路径和存储扩展到治理运行时行为,包括模型访问、检索上下文、输出和智能体操作,因此控制措施必须更贴近推理环节。
作者:Lori Mac Vittie
行业趋势 | 07/16/2026
AI应用交付十大问题:交付策略不兼容
策略不一致会引发AI服务中断:不一致的故障转移、超时、限制和安全控制会导致软故障、结果不完整,以及不同端点产生不同结果。
作者:Lori Mac Vittie
行业趋势 | 07/09/2026
AI应用交付十大挑战:无法应对延迟
AI使延迟不再只是性能问题,更关乎信任:缓慢的“助手”响应会让人感觉系统迟疑或出现故障,而大量使用令牌的提示词和输出即使在系统运行正常时也会增加工作负载。
作者:Lori Mac Vittie
行业趋势 | 07/02/2026
AI应用交付十大问题:流量调度未优化
AI打破了传统流量调度的固有假设:后端并非可以互换,成本各不相同,智能体的扇出模式也难以预测。因此,路由必须考虑模型、GPU运行状况和数据本地性。
作者:Lori Mac Vittie
行业趋势 | 06/25/2026
AI应用交付十大风险:流量控制不足
传统的速率限制和节流机制无法反映实际影响范围。AI工作负载会扩散至多个模型、向量存储和服务,导致延迟激增、级联故障和重试。
作者:Lori Mac Vittie
行业趋势 | 06/18/2026
AI应用交付十大问题:可观测性不完整
AI无法自行实现规模化。如果没有统一的控制平面来整合工具并打破权责边界,推理层将成为最脆弱、最依赖协调的层级。
作者:Lori Mac Vittie
行业趋势 | 06/11/2026
AI应用交付十大风险:缺乏容错能力和韧性
AI使传统韧性缺口的代价大幅增加:单个GPU或依赖项发生故障时,故障会沿同步推理链级联扩散,导致延迟不断累积并降低输出质量。
作者:Lori Mac Vittie
行业趋势 | 06/04/2026
AI应用交付十大问题:薄弱的DNS实践
对于推理和智能体系统,DNS韧性对可用性和性能至关重要。解析异常会导致流量路由错误、延迟激增以及跨区域服务中断。
作者:Lori Mac Vittie共 10 条结果,显示第 1–10 条