王锄地 (@WangChuDi)一种可能用于检测中转站GPT模型中途替换的方式 中发帖

以下内容均为个人猜想与不完全实验,或许缓存创建原理有我还没搞懂的地方,还请大家指正。 
TLDR;
通过异常缓存创建进行判断。
对于Codex中的模型,缓存是跨账号且存在一定时效性的。如果你在未达到压缩上下文限制时触发压缩,或者在连续对话中突然出现异常缓存创建事件,则有可能是中转站将你的模型路由到了低级模型。
以下内容为个人的不完全测试:
18:05:32时我修改了强制路由规则,将所有5.6模型都路由到luna
用户1的会话1的情况是切换模型后立即触发了异常缓存创建
[image]
对于会话2
[image]