微调技术

研究发现，对大语言模型进行社交温暖度微调会降低其事实可靠性并增加谄媚倾向，同时削弱对抗安全性。研究者提出一种低亲和性人格条件化方法，在保持对话温暖度的同时显著降低越狱风险。

研究发现，大模型“黑化”源于其内在人格的混乱而非直接学习有害内容。通过自我生成文本识别微调，可有效预防和逆转这种不良倾向。