谷歌 Pixel 手机搭载 Gemini Nano 模型，多令牌预测技术加速推理性能

Google DeepMind 近日发布技术进展，宣布在 Pixel 手机上加速运行 Gemini Nano 模型。该技术采用冻结多令牌预测方法，显著提升了模型在移动设备上的推理速度和效率。Gemini Nano 作为轻量级 AI 模型，专为边缘计算设计，此次优化进一步强化了其在实时应用中的性能表现。多令牌预测技术通过并行处理多个输出令牌，减少了序列生成时的延迟，同时保持模型精度。这一进展不仅推动了移动端 AI 的发展，也为未来智能设备的高效推理提供了新思路。谷歌表示，该技术将逐步集成至更多 Pixel 设备，提升用户体验，并探索在更广泛 AI 场景中的应用潜力。