多智能体系统可信度突破:Argent信号协议有效遏制语义漂移

arXiv·31 天前

在多智能体大语言模型系统中,错误答案可分为两类:基于正确材料但不完整的可修复错误,以及完全无依据需立即遏制的错误。现有重试策略对两者一视同仁,导致系统可能在不该继续时盲目重试,或在该修复时过早停止。

来自arXiv的新研究提出Argent信号协议,为每个AI生成响应添加紧凑的机器可读头部,包含四个结构化质量信号:确定性(@C)、依据性(@G)、随机性(@S)以及假设索引。这些信号使控制器能准确区分错误类型并采取不同处理策略——对可修复错误进行重试,对无依据错误立即遏制。

研究在两种模式下评估ASP协议。在单智能体模式下,基于Array BioPharma/Ono许可协议的27问文档问答测试显示:在Qwen(0.8B)模型上,ASP将通过率从11.1%提升至33.3%,术语覆盖率从36.7%增至65.4%;在Dobby(8B)模型上实现4次失败转成功案例;在SmolLM3(3B)模型上能按问题智能切换修复与遏制策略。总体通过数从12/81提升至21/81。

在多智能体模式下,ASP作为检索智能体与决策智能体间的“安全副驾”,成功拦截100%的无依据上游输出(27次中拦截24次),完全阻断了错误信息向下游传播。该协议为构建可信赖的多智能体系统提供了可操作的质量控制框架。

多智能体系统语义漂移质量评估可信AIarXiv研究

原文来源:https://arxiv.org/abs/2606.19356

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回