AI系统权限新理论:提出“最小自主性”原则

arXiv·7 天前

传统访问控制中的“最小权限原则”要求身份仅持有完成任务所必需的权限,这一原则已沿用数十年。然而,在智能体AI系统中,权限不仅被持有,还能在工作流和系统边界间被组合、批准和放大,传统原则显得不足。为此,研究团队提出“最小自主性”作为更合适的泛化原则,并构建了形式化理论框架。

该理论包含三个核心组件:首先定义组合爆炸半径d(a,b),通过结合超度量树与格值保密性、完整性和控制上下文标签,量化企业层级中行动间的结构分离程度。其次构建有向智能体影响图G(θ),其中从U到V的弧需要满足定向共享资源写读会议或保守无向智能体间通信会议,且会议条件影响潜力需达到外部设定的策略阈值θ。目录半径剖面支持θ的校准与审计。最后定义基于图可达性的共谋谓词,用于检测授权组合、决策操纵和跨域能力组合。

这项研究为AI系统在复杂环境中的权限管理提供了新的理论工具,尤其适用于需要精细控制智能体自主行为的应用场景。

AI安全访问控制智能体系统形式化方法权限管理

原文来源:https://arxiv.org/abs/2607.09744

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回