智能体LLM系统新架构:共享选择性持久内存提升协作效率
在智能体LLM系统通过多轮工具使用生成代码的过程中,存在一个根本性的上下文问题:每个会话都从零开始,丢弃了先前会话中积累的配置选择、领域约束、数据模式和工具使用模式。简单持久化整个对话历史不仅令牌效率低下,还会因无关上下文降低生成质量。
研究团队提出的共享选择性持久内存架构,能够识别并保留四类可重用上下文(任务规范、数据模式、工具配置和输出约束),同时丢弃会话特定的推理痕迹。这种内存的关键特性是共享性:封装了选择性内存的工作空间可以通过基于角色的访问控制在用户间转移,实现无需冗余规范的协作重用。
该架构已在部署的协作工作平台中实现,LLM智能体从异构源(CSV、SQL、REST API和MCP服务器)生成、编辑和维护Git版本化的工件(仪表板、报告和数据驱动文档)。配套的零令牌数据刷新机制将生成的程序与运行时数据解耦,实现无需重新调用的工件重用。
在三个企业场景测试中,共享选择性持久内存实现了96%的任务完成率(无内存为79%,完整历史为71%)。零令牌刷新消除了重复更新的LLM重新调用(任务时间减少14倍),而摘要驱动生成使每次调用的令牌成本比原始数据注入减少97倍。在四个公共数据集上的复制实验证实了其泛化能力,零令牌刷新在12/12试验中成功。值得注意的是,简单的完整历史持久化会因陈旧痕迹对智能体产生偏见而降低完成率,而选择性内存优于两种极端情况。