混合策略自蒸馏：让大语言模型知识编辑具备组合推理能力

随着大语言模型在各领域的广泛应用，其基于静态语料训练的知识体系难以适应快速变化的世界。知识编辑技术应运而生，旨在更新模型特定知识而不影响其他能力。近期研究从结构化三元组转向非结构化知识编辑，允许使用自由文本段落注入新知识。然而现有方法存在明显局限：编辑后的模型虽能复述注入段落，却无法回答其中的原子事实问题，更无法进行多跳推理组合。

研究团队将这种缺陷归因于编辑器的被动学习模式——仅依赖固定段落作为唯一学习源。为此，他们提出将编辑过程重构为主动的自蒸馏：让模型从自身特权上下文状态中学习，无需外部监督。研究发现，由于新注入知识的陌生性，预编辑模型自身的轨迹很少覆盖这些内容，导致纯策略蒸馏效果受限。

HPSE方法创新性地构建混合轨迹：在学生模型覆盖失败时主动介入填补缺失事实，在其他区域保持策略一致性。理论分析表明该方法优于纯策略蒸馏，实验在四种大语言模型基座和两种知识编辑器上验证了其即插即用优势，涵盖单事实编辑、多事实组合及冲突场景。该技术有望提升大模型的知识更新效率与推理可靠性，为持续学习开辟新路径。