模型加速

研究人员提出LaCache训练免费加速框架，通过无损缓存和混合精度技术，显著减少扩散大语言模型在文本生成中的计算冗余，实现最高40.2倍端到端加速。

Google DeepMind 宣布在 Pixel 手机上加速 Gemini Nano 模型，通过冻结多令牌预测技术提升推理效率，优化移动端 AI 体验。

PyTorch官方发布性能剖析系列第二篇，深入探讨如何通过融合多层感知机（MLP）中的线性层与激活函数，显著提升模型运行效率。