OLMo

研究人员通过训练数据溯源技术，首次系统揭示了语言模型中社会推理与STEM推理能力的不同数据来源，发现两者依赖完全不同的语料库区域。