Self-GC:让大模型智能体自主管理上下文,提升长任务处理效率

arXiv·19 天前

在长序列任务中,大语言模型智能体需要处理大量工具调用结果、文件内容、计划步骤和用户约束,这些结构化信息难以简单作为一次性文本后缀处理。现有系统多依赖运行时启发式方法(如按时间剪枝、工具输出掩码)或在接近上下文限制时进行最终自我总结,但这些方法存在局限:启发式方法廉价但无法预见未来依赖关系;总结虽能保留叙事状态,却常常隐藏具体证据、定位信息和可编辑内容。

arXiv最新研究提出Self-GC框架,其中GC既指代自主治理上下文,也巧妙呼应垃圾回收概念。该系统不仅回收未使用的令牌,更重要的是管理智能体上下文对象的完整生命周期。Self-GC将用户交互轮次、工具调用片段和技能状态转化为可索引对象,通过侧信道规划器提出折叠、掩码和剪枝操作建议,并由执行框架确保可恢复的侧载数据、安全的提交边界和缓存感知的提交机制。

实验结果显示,在33个会话的困难任务集上,Self-GC能剪除43.95%的前缀令牌,同时保持84.85%的未来任务连续性不受影响,而传统启发式方法的无影响率仅为54.55%至69.70%。在332个生产级任务套件中,三种规划器骨干的无影响率达到91.27%至94.58%,基准方法则为77.71%至87.46%。生产环境部署显示,在线账户级分流使日间平均输入令牌减少10%至15%,峰值减少接近20%。

这些成果表明,上下文管理应被视为对可索引、可恢复对象的运行时生命周期控制,而非事后文本清理。该研究为大模型智能体处理复杂长序列任务提供了新的技术思路。

大语言模型智能体系统上下文管理AI研究arXiv

原文来源:https://arxiv.org/abs/2607.00692

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回