Nekof 在 OpenAI API已支持提示词缓存 中发帖
官方公告
省流:
提示长度超过 1,024 个 token才可用,命中缓存后价格为原来的一半
目前可用的模型只有
gpt-4o-2024-08-06 gpt-4o-mini-2024-07-18 o1-preview o1-mini