AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
运行时安全
2 篇相关内容
相关话题
自主系统
多智能体系统
机器人控制
形式化验证
AgenticRei
AI治理
自主智能体
义务逻辑
运行时自主管理新框架:为单/多智能体系统引入齿轮化安全控制机制
研究人员提出一种名为“齿轮化执行”的运行时自主管理系统,通过五档执行模式与事件驱动回退机制,为缺乏持续人工监督的自主智能体提供安全保证。该系统在UR5机器人装配单元实验中实现99.6%异常检测率,并提供形式化物理空间安全证书。
a
arXiv
·
19 天前
自主系统
运行时安全
多智能体系统
机器人控制
a
AI智能体治理新方案:Deontic Policies为自主系统提供运行时约束
研究者提出AgenticRei框架,使用基于义务逻辑的策略语言,为大语言模型驱动的自主AI系统提供运行时治理方案,解决现有策略引擎无法处理的复杂合规需求。
a
arXiv
·
31 天前
AgenticRei
AI治理
自主智能体
义务逻辑
a