并行解码

研究者提出Polestar框架，通过监测表征漂移现象，同时优化KV缓存与解码并行化，在数学与代码任务上实现最高3.7倍吞吐量提升。