单次成功任务成本计算器
智能体会重试、循环执行,也会放弃任务。单token成本无法反映这些情况,而这种计价方式按实际完成的任务收费。
每个token的成本衡量的是集群产出的成本,却无法说明任务是否成功完成。当智能体参与执行流程时,每项任务可能涉及多次相互依赖的调用、失败后的重试,以及中途放弃的循环。此时,真正的成本计量单位是已完成的任务,其成本可能是简单估算值的数倍。
01: 任务的设计状态
02: 任务的实际运行状态
每项任务的每一美元花在了哪里
绿色方格表示产出了已完成任务的支出。空心方格表示重试、循环和中止造成的浪费。
更多信息
每 token 成本是生产指标,每项成功任务成本则是业务指标。两者之间的差距来自重试放大——失败与重复的调用与有效调用按同样标准计费——再加上循环浪费,以及中止调用链的全部开销最终由已完成任务承担。随着智能体承担越来越多的流量,推理预算正是在这一差距中被悄悄耗尽。
常见问题
由此导向何处
从 AI 工厂算账到 AI 工厂管控
健康状态感知路由可避免重试,按租户预算可终止循环,token 归属则让每个智能体的任务中止情况变得可见——这正是为什么这个浪费倍数是流量控制指标,而非模型质量指标。