超越“下一步预测”:面向决策的智能体自主世界建模新方法

arXiv·26 天前

当前基于大语言模型(LLM)的智能体世界建模研究,普遍将训练目标设定为‘下一观测值预测’。然而,这种范式存在根本性局限:环境反馈的随机性可能掩盖对当前决策最关键的环境动态信息。为突破这一限制,研究团队提出‘智能体自主世界建模’(AAWM)训练框架。

AAWM的核心创新在于,让智能体在每个决策状态主动识别‘我需要理解环境的哪些方面’,并以此驱动跨轨迹的相关转移证据检索。这些证据被合成为面向决策的动态训练目标,而非简单重建下一个观测值。这使训练目标与策略执行前所需理解的环境动态对齐,而非与下一个观测内容绑定。

实验在多个环境和训练设置中验证了AAWM的有效性。结果表明,这种决策感知的世界建模目标能提供比传统下一观测预测更高效的学习信号。该研究为构建更自主、更适应复杂决策场景的AI智能体提供了新的理论框架与方法路径,尤其对需要长期规划与动态环境理解的AI应用具有重要启示。

世界建模LLM智能体决策优化强化学习AI理论

原文来源:https://arxiv.org/abs/2606.25421

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回