计算效率

研究人员提出轨迹对齐蒸馏方法，通过监督模型自身去噪轨迹，显著提升扩散大语言模型的数学推理能力，计算效率提升近百倍。

研究者提出基于PEFT的块扩散草案生成方法，试图通过轻量适配器加速语言模型推理，但实验表明该方法未能实现实际加速效果。

研究者提出HALO方法，通过自适应选择部分关键token进行二次推理，让冻结的预训练大模型以更少的计算成本获得更强的推理能力。

研究表明，在少样本学习中，对检索结果进行重排序有时反而会降低模型性能。研究人员提出了一种无需训练的“门控重排序”方法，能根据模型不确定性智能决定是否进行重排序，在降低计算成本的同时提升平均性能。

研究团队提出LearnStop早退机制，在18个任务场景测试中发现：学习型停止规则在自由格式数学任务中表现优异，但在选择题等场景下，传统置信度阈值仍具竞争力。

研究者提出GRACE理论框架，揭示了验证粒度与计算预算的动态关系，证明在困难问题或充足算力下细粒度验证更优，反之粗粒度更佳。自适应策略在数学推理基准上提升准确率3.1%。