01 · 计量单位是完成的任务
Agent 一次任务可能包含多次模型请求。即使每 token 单价相同,读取范围、执行轮数和返工差异也会让最终费用不同。
02 · 分清计费项
输入、缓存写入、缓存读取和输出可能采用不同价格。不要把缓存读取再次计为普通输入;需要结合服务返回的 usage 和当前价格表核算。
03 · 把质量放进成本表
降低投入、减少上下文或换便宜模型,都应同时检查完成率。记录失败后的重试费用,才能比较每个合格结果的成本。
以上为 Learn 独立编写的中文导读;原文中的完整演示、代码与版本细节,请核对官方文章。下面的练习和自测为本站原创,不是原作者的作业。
MAKE IT YOURS
动手练习
制作任务成本账本
用自拟数据记录三个请求的普通输入、缓存读写和输出。为两个方案分别记录失败次数,再计算得到一个合格结果的平均费用。
- 分项用量与价格来源
- 总费用和重试费用
- 每个合格结果的成本比较
正在读取此设备的学习记录……