苹果芯片

研究人员推出专为苹果芯片设计的原生Metal推理运行时BaseRT，在Qwen3、Llama 3.2等模型上实现比现有方案最高1.56倍的解码吞吐量提升，为边缘设备AI推理提供新方案。