小鱼 (@iszcz)提醒:Claude透传可能会漏计费! 中发帖

前情提要:我基于NewAPI二开了 RixAPI 系统,昨天闲着想写缓存计费的功能,因为我是Claude源头,优先去看了Anthropic文档,发现一个严重的问题。 
claude的usage里,input tokens是未缓存部分,cache tokens是缓存部分,目前中转系统都是根据input tokens去计费;
以前这是没什么问题的,不过现在很多系统做了claude的透传功能,这就导致一种情况:用户提交官方格式的带缓存请求给中转,中转只负责透传,最后计费的时候只计算了input tokens,对于中间商来说是不亏的(使用上游的usage),但是对于源头来说肯定亏钱!下面附一张缓存使用截图,红框部分是你们可能未计费的。
[image]
建议:尽量避免透传,用openai的格式去对接上游,会把缓存功能关掉。
目前RixAPI系统已支持Claude完美的缓存计费功能,并且站点...