新方法GILP:结合参数化世界模型,显著降低LLM智能体幻觉传播
世界模型在语言智能体中有两种主要形式:基于智能体的世界模型依赖LLM API进行灵活语言推理,但其错误常表现为难以用常规回归损失衡量的幻觉状态变化;参数化世界模型则是经过训练的转移预测器,其错误可通过节点均方误差等指标量化,但作为独立规划器通常较弱。研究团队在四个图结构规划基准上对比了这两类模型,并为基于智能体的模型引入了操作性幻觉度量指标。基于此,团队提出了“接地迭代语言规划”(GILP)方法。该方法仅训练一个小型参数化骨干网络,并将其与基于API的智能体推理相结合:骨干网络提供有效动作、预测状态变化、风险和价值评估;LLM负责起草动作和想象的状态变化;当两者不一致时,一致性门控机制会要求修订。在实际GPT-4o-mini调用中,GILP将幻觉状态率从0.176大幅降低至0.035。在校准模拟器消融实验中,该方法在仅增加约22%额外LLM调用的情况下,将成功率从0.668提升至0.838。这一融合方案为平衡规划灵活性与可靠性提供了新思路。