如下是我 qoder结合阿里百炼 token plan 使用的经历:分析一个模块,一次任务使用了 800 credits,套餐总量是 25000 credits,我当时惊呆了,所以咨询了阿里的工程师,最终回复如下(仅基于阿里百炼 token plan 真实使用情况):
1.您正常计费输入总共6次消耗169882token,产生129.4176的credits消耗
2.输入触发了上下文缓存消耗10次共消耗1813510token,产生了587.54632credits消耗
3.输出6次,消耗30300token,产生了83.5172credits消耗
共消耗了800.48112credits。
总结一下就是显式缓存用了大量的credits
