pan iron 在 OAI如果对话中间切换账号,cache还能命中吗 中发帖
今天自己买的号额度不够了,买了两个中转站试试。发现有时候突然有一次请求直接0 cacheRead,本来命中只会花0.0x$,结果直接变成0.5$左右,导致余额掉的特别快。
于是我通过OTEL抓到了请求体,抓到了连续两次请求(一次命中了缓存,一次0缓存命中),保存了请求体。人工对比和AI对比,前缀都是匹配的,只有后面的请求多了上一轮工具的输出。
所以我在想:OAI如果对话中间切换账号,cache还能命中吗