onion (@user2270) 在 有佬研究过例如GrokBot、Dots、Muse这类助理的缓存命中时长吗 中发帖

今天好奇一个问题,这种助理类的缓存命中时长怎么样,是几分钟这种短期缓存;还是像codex、claude code这类代码agent一样,大概1h左右。 
或者说是有这样一个应用场景:“需要他持续跟进外部信息”,那么是让过一段时间一次性提供(目的是:既然缓存大概率过期了,那就减少总token数),还是持续不断的跟进避免缓存过期(目的是:始终保持缓存活跃,这样或许即使更多的token反而消耗更少)好呢?不知道佬友们的体感如何。