摸摸头 (@future2233) 在 吐槽一下claude的提示缓存 中发帖
上班摸鱼改了改one-hub的中转代码,给claude的系统提示词加上了提示缓存,但发现对代码党来说根本省不了几个钱,cache write要加收25%,cache read 看似便宜90% 实则根本不实用,
一是大头实际在生成上,一不控制框框一顿代码输出;
二是问个几轮后原系统提示里面的代码就已经out了,换了后就得重新写入。
claude的提示缓存只适用于角色扮演这种系统提示词相对固定的场景,这种就不怕输入的人物设定和破限词太长。