运行时自主管理新框架:为单/多智能体系统引入齿轮化安全控制机制

arXiv·19 天前

当自主智能体(无论是LLM驱动的软件智能体还是机器人物理智能体)在没有持续人工监督的情况下运行时,普遍面临三类失效模式:未经验证操作导致的安全违规、无约束循环引发的行为失稳,以及未处理错误状态造成的连续性中断。

为解决这一问题,研究团队开发了一套离散时间控制系统,其核心创新在于“齿轮化执行”架构。该系统包含五种执行档位:观察档、建议档、规划档、执行档和干预档,配合效用门控调度与事件驱动回退机制。在单智能体场景下,研究团队证明了该系统具备单调稳定性、执行安全性、最终稳定性和回退完备性,且等价于齿轮约束马尔可夫决策过程。

针对多智能体信息物理系统,研究采用成熟的SMART自主管理生命周期框架,将运行时证据映射至四种治理状态(稳定/元/辅助/受控)。通过共识门控、群体级李雅普诺夫分析、单智能体齿轮权限分配和汇合控制,系统实现了分布式安全与稳定性保证,在设定假设条件下可实现零碰撞。

实验部分,研究团队在三台UR5机器人装配单元上进行了10,000次蒙特卡洛模拟测试,故障幅度校准采用NIST《机械臂位置精度退化测量》数据集。结果显示:该系统异常检测率达99.6%(单智能体基线仅为2.1%),检测延迟降低3.5倍,并能提供形式化物理工作空间安全证书。执行齿轮作为SMART运行时治理状态的微观权限层,实现了动作控制与自主治理的分离。

自主系统运行时安全多智能体系统机器人控制形式化验证

原文来源:https://arxiv.org/abs/2607.00334

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回