多智能体系统可信度突破:Argent信号协议有效遏制语义漂移
在多智能体大语言模型系统中,错误答案可分为两类:基于正确材料但不完整的可修复错误,以及完全无依据需立即遏制的错误。现有重试策略对两者一视同仁,导致系统可能在不该继续时盲目重试,或在该修复时过早停止。
来自arXiv的新研究提出Argent信号协议,为每个AI生成响应添加紧凑的机器可读头部,包含四个结构化质量信号:确定性(@C)、依据性(@G)、随机性(@S)以及假设索引。这些信号使控制器能准确区分错误类型并采取不同处理策略——对可修复错误进行重试,对无依据错误立即遏制。
研究在两种模式下评估ASP协议。在单智能体模式下,基于Array BioPharma/Ono许可协议的27问文档问答测试显示:在Qwen(0.8B)模型上,ASP将通过率从11.1%提升至33.3%,术语覆盖率从36.7%增至65.4%;在Dobby(8B)模型上实现4次失败转成功案例;在SmolLM3(3B)模型上能按问题智能切换修复与遏制策略。总体通过数从12/81提升至21/81。
在多智能体模式下,ASP作为检索智能体与决策智能体间的“安全副驾”,成功拦截100%的无依据上游输出(27次中拦截24次),完全阻断了错误信息向下游传播。该协议为构建可信赖的多智能体系统提供了可操作的质量控制框架。