论文链接 https://arxiv.org/pdf/2609.36322 
大模型处理长上下文时，需要保存大量历史Token对应的Key和Value信息，供后续注意力计算使用。 
上下文越长，这部分缓存占用的内存和计算开销就越大。 
尤其是动辄几十万、上百万Token的长任务，KV Cache很容易成为推理效率的瓶颈。 
所以DeepSeek-V4采用了分块KV Cache压缩。 
思路是把连续的Token分成一个个窗口，再将窗口内的信息压缩成更少的缓存条目。 
这样模型就不用为每个历史Token保留同样规模的缓存。 
既节省内存，也能降低长上下文注意力计算的成本。 
但Seed团队发现，DeepSeek出现神鬼二象性的原因可能就藏在这个分块过程里。 
假设每4个Token构成一个压缩步长。 
那么，同一条信息出现在窗口里的第1、第2、第3或第4个位置，压缩时所处的条件就可能不同。 
论...