单次成功任务成本计算器

智能体会重试、循环执行,也会放弃任务。单token成本无法反映这些情况,而这种计价方式按实际完成的任务收费。

每个token的成本衡量的是集群产出的成本,却无法说明任务是否成功完成。当智能体参与执行流程时,每项任务可能涉及多次相互依赖的调用、失败后的重试,以及中途放弃的循环。此时,真正的成本计量单位是已完成的任务,其成本可能是简单估算值的数倍。

01: 任务的设计状态

02: 任务的实际运行状态

每项任务的每一美元花在了哪里

绿色方格表示产出了已完成任务的支出。空心方格表示重试、循环和中止造成的浪费。

更多信息

每 token 成本是生产指标,每项成功任务成本则是业务指标。两者之间的差距来自重试放大——失败与重复的调用与有效调用按同样标准计费——再加上循环浪费,以及中止调用链的全部开销最终由已完成任务承担。随着智能体承担越来越多的流量,推理预算正是在这一差距中被悄悄耗尽。

常见问题

由此导向何处

从 AI 工厂算账到 AI 工厂管控

健康状态感知路由可避免重试,按租户预算可终止循环,token 归属则让每个智能体的任务中止情况变得可见——这正是为什么这个浪费倍数是流量控制指标,而非模型质量指标。