创造力新突破:无需数据即可提升大语言模型发散思维
最新研究提出了一种名为CreativityNeuro的创新方法,旨在解决大语言模型在开放性问题中容易产生相似回答的“人工蜂群思维”问题。该方法采用对比权重引导技术,无需额外训练数据或梯度微调,即可有效提升模型发散思维能力。
研究团队在多项创造力测试中验证了该方法的有效性。在词汇空间创造力测试(DAT)中,CreativityNeuro将模型表现提升了高达14个人类百分位数。在涉及720人参与的大规模人类评估中,该方法在替代用途测试(AUT)和任务任务测试中均显著提高了回答的原创性、惊喜度和创造力评分。
值得注意的是,CreativityNeuro在所有三项测试中都明显降低了模式崩溃的测量指标。相比之下,激活引导方法虽然在DAT测试中表现相当,但无法有效迁移到AUT和任务任务测试中,这凸显了权重空间引导在泛化到未见任务方面的优势。
这项研究为大语言模型在创意领域的应用提供了新思路,通过简单的权重调整即可增强模型创造力,避免了传统方法需要大量行为数据、重新训练或梯度微调的复杂流程。