Okamitimo233 (@lyz215328)[求答疑]api中转的缓存原理? 中发帖

本人买了一台香港小鸡,计划搭些例如cliproxyapi的服务,方便自己和朋友外出时移动设备也能直接调用模型. 
从佬友们讨论中了解不少中转站都有缓存,各个站点缓存命中率都有差异,命中率高的话貌似能省不少token
还看到过一种说法,有些代理站(像betterclaude,不过这个好像并没有缓存?)收到提示词内容相同的请求时,因为有缓存,返回token的速度会提高
这两种缓存的原理有哪些不同?缓存在api提供商上,还是cloudflare给我的域名提供的缓存上?
希望各位知识渊博的佬能给本小白解惑一下 🫠