元认知

研究人员发布AutoResearchEval评估框架，通过100项真实前沿科研任务全面诊断AI科研代理的失败模式，发现当前系统普遍缺乏元认知循环能力。

研究发现，大语言模型在医学诊断中能部分感知证据强度与不确定性，但面对中度冲突病例时仍存在过度自信问题。

最新研究通过六组对照实验发现，大语言模型自我反思能力的提升主要源于类型化行动路由机制，而非诊断框架或分类词汇。该发现为构建具有元认知能力的AI预测代理提供了关键设计原则。

研究人员提出一种基于向量空间几何的元认知方法，无需领域知识即可检测预训练视觉模型的错误，并通过整数规划融合多个模型，显著提升对抗攻击下的鲁棒性。