lizzzcIkuncode缓存命中测试 中发帖

突发奇想测试缓存命中,因为有的时候缓存命中算法的好坏也会决定用户的性价比,同时也会识别是否为官方API。 
基于中转可用性网站2025.11.26排行,选择用Ikuncode进行测试。
非常感谢Ikuncode站长提供的key @zyoung
下面是详细报告
1. 摘要
本次测试基于 Titan-DB 基准技术文档(虚拟构建)及 6 个标准化测试场景,对大模型中转系统的 Prompt Caching 命中率进行了系统性测评。实验涵盖冷启动、完全命中、前缀命中、短请求过滤、内容变更、模型隔离等典型场景,旨在客观评估缓存机制的有效性、稳定性与可复现性。
通过对 6 种典型情况仿真测试,结论如下:


功能性验证: 网关成功实现了基于 Anthropic 协议的缓存机制,精确匹配场景下的请求级命中率达 100%。


效能指标: 在混合压力测试下,综合 Token 命中率为 19....