大模型辅助文献综述研究:长上下文窗口的利与弊
近日,一项发表于arXiv的研究系统评估了大型语言模型在短/长上下文窗口下生成的学术文献综述质量。研究团队基于Semantic Scholar和Arxiv的学术资源,使用大模型生成了20篇文献综述,并由两名研究人员从15个维度进行人工评估。
结果显示,随着上下文窗口的扩大,大模型能够整合更广泛的信息并保持长文本连贯性,但同时也暴露出新的问题:内容重复现象加剧、关键研究成果被遗漏、倾向于描述性内容而非综合性分析。研究表明,AI生成的文献综述可作为学术写作的初步基础,但必须经过领域专家的严格审阅和修改才能达到学术出版标准。
研究人员指出,未来研究应考虑将不同领域的大模型与微调模型相结合,采用人机协同的混合方法,以解决当前AI生成学术内容存在的局限性。这项工作为学术界合理利用AI工具提供了重要参考,强调了人类专业知识在学术工作流中不可替代的核心价值。