Janus:用户参与式AI代理权限管理实验平台发布

arXiv·18 天前

随着AI代理日益频繁地代表用户自主执行工具调用,权限管理问题变得尤为关键:用户应扮演什么角色?又能发挥什么作用?针对这一研究空白,研究团队近日在arXiv发布了Janus实验平台系统,专门用于实现和评估用户参与的代理权限管理方案。

Janus平台包含两大核心组件:Janus-Core作为模块化代理系统,支持多种权限管理设计方案;Janus-Harness则是自动化评估框架。基于识别用户参与关键设计维度的概念模型,团队实现了六种覆盖设计空间的权限助手,并在三种场景和三种合成响应器中进行评估。

研究发现:用户输入对隐私安全保护至关重要,AI辅助决策能有效减轻用户认知负担,但系统设计必须考虑权限疲劳等现实用户行为。值得注意的是,没有任何单一设计能在所有场景中表现最优,这要求代理系统部署权限助手时需采用更原则化、情境敏感的方法。

Janus平台已公开提供,旨在支持未来对代理系统设计中这一重要维度的深入探索,为平衡自动化效率与用户控制权提供实验基础。

AI代理权限管理人机协作隐私安全系统设计

原文来源:https://arxiv.org/abs/2607.01510

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回