DeepSeek-V3.2-Exp推理演示版发现RoPE实现不匹配问题

DeepSeek深度求索官方通过社交媒体发布技术提醒，针对正在使用DeepSeek-V3.2-Exp推理演示版的开发者。公告指出，早期版本中存在RoPE（旋转位置编码）实现不匹配问题，具体发生在索引器模块中。该问题源于索引器RoPE期望非交错输入，而MLA（多头注意力）RoPE期望交错输入，这种不匹配可能导致模型性能下降。官方表示该问题已在最新版本中得到修复，建议用户及时更新至修复版本以确保推理效果。RoPE作为大语言模型中的关键位置编码技术，其正确实现对模型理解序列顺序和位置关系至关重要。此次及时的技术通报体现了DeepSeek对产品质量的重视和对开发者社区的负责态度。