AI如何从反馈中真正进步？研究发现关键瓶颈

在人工智能领域，自然语言反馈常被视为提升模型性能的重要手段。然而，一项最新研究指出，多轮交互中观察到的准确率提升可能具有误导性——这些进步可能仅仅来自重复尝试、格式修正或额外的计算资源，而非反馈本身的有效利用。

研究团队设计了一套严谨的师生评估协议，在Omni-MATH、Codeforces、BBEH Linguini和ARC-AGI1四个基准上测试了13个开源模型。实验对比了外部反馈、自我反馈和无引导自我优化三种模式，同时控制了交互历史、任务难度和教师对任务信息的访问权限。

关键发现令人深思：多轮改进往往不能证明反馈的有效性。自我生成的反馈几乎不带来超越无引导优化的额外收益，而真正强大的外部教师才能产生显著的反馈特异性增益。这表明，有用的反馈必须提供超越简单重试的实质性指导。

更深入的师生交互矩阵分析显示，交互收益更多取决于学生利用反馈的能力，而非教师的身份。虽然教师选择对固定学生仍然重要，但核心瓶颈在于模型执行反馈指令的潜力。

这项研究建议，评估基于反馈的智能体时应以重复尝试基线为参照，并强调“利用反馈的能力”而非“反馈的可获得性”才是交互改进的关键。研究团队已公开其评估框架，为未来研究提供标准化工具。