工具调用型AI代理的可靠性研究：早期错误如何“雪崩式”影响后续表现

一项发布于arXiv的AI研究揭示了工具调用型AI代理在复杂任务链中的脆弱性。研究团队设计了无污染的多步骤任务（深度1-8），在五个开源模型上测试了两种失败模式：选择错误工具，或构建错误参数。

关键发现是：在深度6的任务中，模型因自身早期错误而损失了约70%的清洁上下文能力（L6=0.686, 0.684）。更令人意外的是测量方法本身的问题——使用固定黄金轨迹的精确匹配评分时，传播模型的严重性和恢复参数实际上已被评分规则预先决定，导致严重性被强制固定在边界值，而恢复性在结构上不可观测。

研究指出根本机制：一旦模型偏离正确路径，黄金值由模型从未见过的工具常数生成，这些信息模型无法推导。这导致拟合运行返回0.92和0.73的置信数值，而实际参数应为精确的1.000。

团队提出补救方案“状态条件评分”，可对缓存完成进行零成本追溯应用，将严重性估计从边界值释放到内部估计（+0.149, +0.316），为更准确地评估工具调用代理的可靠性提供了新方法。