Mi (@Milii) 在 关于sub2api公益站 codex token缓存问题讨论。 中发帖
token 缓存解释:
Token缓存就是把 AI 已经计算过的固定输入先“存档”并在后续请求里直接复用,优点是响应更快、成本更低、体验更稳定。
[7bdc5729660bb06658828adac2d0f807]
sub2站点后台发现很多佬友token缓存读取有问题,佬友还不知道什么是缓存,导致余额用的飞快,是什么原因呢?有没有佬友知道的 , 一起讨论讨论,目前我只知道其他ide使用gpt 请求接口问题会导致无缓存