新方法GILP:结合参数化世界模型,显著降低LLM智能体幻觉传播

arXiv·22 天前

世界模型在语言智能体中有两种主要形式:基于智能体的世界模型依赖LLM API进行灵活语言推理,但其错误常表现为难以用常规回归损失衡量的幻觉状态变化;参数化世界模型则是经过训练的转移预测器,其错误可通过节点均方误差等指标量化,但作为独立规划器通常较弱。研究团队在四个图结构规划基准上对比了这两类模型,并为基于智能体的模型引入了操作性幻觉度量指标。基于此,团队提出了“接地迭代语言规划”(GILP)方法。该方法仅训练一个小型参数化骨干网络,并将其与基于API的智能体推理相结合:骨干网络提供有效动作、预测状态变化、风险和价值评估;LLM负责起草动作和想象的状态变化;当两者不一致时,一致性门控机制会要求修订。在实际GPT-4o-mini调用中,GILP将幻觉状态率从0.176大幅降低至0.035。在校准模拟器消融实验中,该方法在仅增加约22%额外LLM调用的情况下,将成功率从0.668提升至0.838。这一融合方案为平衡规划灵活性与可靠性提供了新思路。

大语言模型智能体规划世界模型幻觉控制AI研究

原文来源:https://arxiv.org/abs/2606.27806

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回