跳到正文
原文
量子位· 闻乐·· 9 天前AI 评分70

字节 Seed 发现 DeepSeek-V4 时强时弱源于 KV Cache 压缩的相位敏感性

字节找到了DeepSeek时强时弱的原因

AI 导读

字节 Seed 团队发现 DeepSeek-V4 系列在长上下文检索中的表现会随信息在输入中的位置每隔 4 个 Token 周期性变化,128K 大海捞针测试中同一信息换位置后准确率最大相差 40.2 个百分点。

来源:量子位 · qbitai.com