SCLoRA

研究者提出SCLoRA方法，通过分析网络参数的奇异值分解，发现大奇异值的主成分在微调时可重用，而小奇异值的次要成分更具任务特异性。该方法通过谱裁剪控制适配器奇异值增长，有效缓解灾难性遗忘问题。