奇异值分解

研究人员提出基于奇异值收缩的谱逆转框架，可选择性逆转大模型中恶意编辑的知识，同时保留其他有益编辑内容，解决了现有方法“一刀切”删除所有编辑的问题。

研究者提出SCLoRA方法，通过分析网络参数的奇异值分解，发现大奇异值的主成分在微调时可重用，而小奇异值的次要成分更具任务特异性。该方法通过谱裁剪控制适配器奇异值增长，有效缓解灾难性遗忘问题。