AI360
资讯
首页
专栏
快讯
应用中心
API 平台
#
溯源分析
1 篇相关内容
相关话题
大模型安全
AI代理
对齐研究
arXiv
大模型代理安全新突破:基于溯源分析防止指令偏离
研究者提出ProvenanceGuard框架,通过多阶段溯源分析检测大模型代理工具调用是否偏离用户意图,在两大基准测试中显著降低误判率。
a
arXiv
·
18 天前
大模型安全
AI代理
溯源分析
对齐研究
a