Jerome Wang 在 为什么在 NewAPI 中 anthropic 格式转 openai 格式就没缓存了 中发帖
anthropic的claude模型本身是有缓存的,在我的理解里 openai 格式和 messages 格式本身只是格式不一样, 不会影响模型的缓存? 🥲
anthropic的claude模型本身是有缓存的,在我的理解里 openai 格式和 messages 格式本身只是格式不一样, 不会影响模型的缓存? 🥲