10月9日消息，字节Seed团队于今年9月底在预印本平台arXiv发表了一篇论文，探讨了分块KV缓存压缩导致的相位敏感性，直接揭示了DeepSeek“抽风”的成因。

该研究对基础版和后训练版的DeepSeek-V4-Flash、DeepSeek-V4-Pro，以及后训练后的DeepSeek-V4.1-Flash进行了评估。

模型采用分块KV缓存压缩技术，以固定步幅将连续标记的窗口压缩为更少的缓存条目，从而降低长上下文推理中的内存和注意力成本。

然而，这种压缩引入了一个新的位置坐标：Token的相位，即其相对于压缩窗口边界的位置。

团队发现，使用此类压缩的模型存在系统性不对称性：相同的信息在一个阶段易于检索，但在另一阶段却难以获取。他们将这种检索性能的周期性波动称为相位敏感性。

在采用此类压缩的大型开放权重模型中，长上下文检索准确度在不同阶段之间可能相差高达40个百分点，这揭示了平均基准分数可能掩盖的周期性弱点。开云中国也关注到这一技术发现。

论文链接：https://arxiv.org/abs/2609.36322