智能体应助用户构建偏好,而非仅被动询问
当前智能体系统通常假设用户是“专家用户”——即对自己想要什么有清晰、成形的偏好。当任务描述不够具体时,系统默认会通过提问来澄清。然而,一项新研究认为这种假设并不现实。许多用户往往缺乏相关领域知识,无法完全明确自己的偏好。如果智能体就某个特性询问用户偏好,用户可能因不了解该特性而无法回答,除非智能体能通过示例、解释等方式,帮助用户学习必要的领域知识以形成偏好。
为形式化这一理念,研究者借鉴信息经济学中的“搜索-体验-信任”框架,提出了CoPref模型,用于描述用户如何基于智能体的对话行为来构建偏好。研究进一步在智能推荐系统中具体探索了这些想法,并提出了交互式基准测试CoShop。在CoShop中,智能体与一个遵循CoPref模型的用户进行对话并为其提供推荐。智能体的表现取决于它能否帮助用户获得充分明确任务所需的知识。
研究者评估了五个前沿模型,发现在经过五轮交互后,没有任何智能体在CoShop上的准确率超过56%。失败的原因并非智能体寻找物品的能力不足,而在于交互过程极少扩展用户对于自身需求的认知。这项研究挑战了当前智能体设计的核心假设,强调了辅助用户学习和构建偏好的重要性,为未来开发更人性化、更具支持性的AI助手指明了方向。