模型蒸馏

研究人员提出轨迹对齐蒸馏方法，通过监督模型自身去噪轨迹，显著提升扩散大语言模型的数学推理能力，计算效率提升近百倍。

研究人员提出一种新方法，可将深度强化学习的黑盒策略转化为人类可读、逻辑引擎可执行的Prolog程序，同时提供理论性能保证，在多个任务中实现接近原策略的性能。

针对受数据驻留规则约束的金融机构，研究提出结合本体增强蒸馏与情境审计的方法，可在本地设备上训练专属语言模型，并在越南金融任务测试中达到与前沿模型相当的落地效果。