AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
LLM智能体
9 篇相关内容
相关话题
AI安全
arXiv
强化学习
记忆系统
图神经网络
检索增强
arXiv研究
工具调用
安全框架
上下文感知
系统隔离
智能体架构
MOSAIC:为LLM智能体打造的高效结构化记忆系统
研究人员提出MOSAIC框架,通过图结构存储、哈希加速检索和冲突检测三大创新,显著提升LLM智能体长期记忆的准确性与效率。
a
arXiv
·
5 小时前
LLM智能体
记忆系统
图神经网络
检索增强
a
Safety Sentry:为AI智能体引入上下文感知的三路安全路由机制
研究团队提出Safety Sentry框架,将传统二元安全判断扩展为“执行-询问-拒绝”三路决策,通过单次解码调用实现轻量级安全防护,显著提升LLM智能体工具调用的安全性。
a
arXiv
·
5 天前
AI安全
LLM智能体
工具调用
安全框架
a
将“隔离”作为LLM智能体系统安全的首要原则:概念、分类与挑战
一项最新研究提出,应将“隔离”作为保障大语言模型(LLM)智能体系统安全的核心设计原则,通过建立用户-智能体、智能体-工具等五大边界,系统性分析安全风险传播路径与防御策略。
a
arXiv
·
6 天前
LLM智能体
AI安全
系统隔离
arXiv
a
智能体LLM系统新架构:共享选择性持久内存提升协作效率
研究团队提出共享选择性持久内存架构,解决智能体LLM系统在多轮工具使用中的上下文遗忘问题,通过选择性保留可重用信息实现96%任务完成率,相比无内存方案提升17个百分点。
a
arXiv
·
8 天前
LLM智能体
内存架构
协作系统
上下文管理
a
记忆架构如何驱动LLM智能体间的语言涌现
研究发现,在LLM智能体进行信号博弈时,记忆架构比信道容量更能影响语言协调效果。拥有持久私人笔记本的智能体能够利用过剩信道容量,避免高容量崩溃。
a
arXiv
·
19 天前
LLM智能体
语言涌现
记忆架构
信号博弈
a
迈向开放世界人工生命:LLM智能体自主演化新范式
研究者提出开放世界人工生命新范式,利用具备记忆、工具使用和网络访问能力的LLM智能体,在真实社会技术环境中探索类生命行为。实验系统OpenLife运行12周已观察到自发性活动、个体分化等生命特征。
a
arXiv
·
20 天前
人工生命
LLM智能体
开放世界
自主系统
a
LLM智能体遭遇“记忆更新鸿沟”:长期对话中事实更迭成难题
研究发现大型语言模型智能体在多轮对话中难以更新已变更的事实,导致依赖过时信息。研究者创建训练环境Supersede,通过强化学习成功提升模型的事实更新能力。
a
arXiv
·
22 天前
LLM智能体
记忆更新
强化学习
对话系统
a
超越“下一步预测”:面向决策的智能体自主世界建模新方法
研究团队提出Agent-Authored World Modeling(AAWM)新框架,让智能体根据自身决策需求构建训练目标,而非被动预测环境反馈,实验证明该方法在多个环境中优于传统观测预测模型。
a
arXiv
·
26 天前
世界建模
LLM智能体
决策优化
强化学习
a
超越静态排行榜:如何更准地评估LLM智能体?
研究发现传统AI智能体排行榜的排名在真实部署场景中不稳定,提出用“预测效度”替代平均分来评估智能体,并设计了一套12层评估框架。
a
arXiv
·
31 天前
LLM智能体
AI评估
预测效度
基准测试
a