AI效率

研究人员提出“工具效率”与“边际工具效用”两项新指标，为评估大语言模型工具调用性能提供量化标准，助力构建更精简高效的工具套件。

研究人员提出StickyMoE训练方法，通过引入路由一致性损失函数，减少相邻token间专家切换频率，从而降低边缘设备推理时的内存交换开销，在保持模型性能的同时显著提升推理效率。

研究团队发现语言模型在推理时经常“过度思考”，产生无益的自我反思。他们提出DASH方法，通过评估推理片段的价值来减少无效思考，在数学竞赛基准测试中显著提升准确率。

Google DeepMind发布TurboQuant算法，通过极端压缩技术大幅提升AI模型运行效率，为边缘计算与低功耗场景带来突破性解决方案。