长上下文推理

研究人员开发出基于语言模型的并购套利预测系统，通过专家引导的上下文工程与历史交易回溯监督微调，在长文档金融场景中超越传统方法。

研究人员提出SeKV，一种分辨率自适应的语义KV缓存系统，通过分层存储和按需重建机制，在减少53.3%GPU内存的同时保持模型性能，解决长上下文推理中的内存瓶颈问题。