AI 代理自动化审计个性化算法，揭示平台内容偏见

个性化算法决定了用户在在线平台上看到的内容，但独立审计这些系统面临挑战：真实用户研究成本高、难控制，而模拟账户审计又缺乏真实行为。为此，研究人员提出了一种新框架，使用生成式 AI 代理作为合成账户的行为引擎，每个代理基于人口统计和政治调查数据设定固定人设，并通过推理与平台内容互动。该设计允许在保持行为一致的前提下，实验性调整平台可见的用户属性（如年龄、性别），从而实现对平台如何响应用户属性的反事实审计。在 2024 年美国大选后，团队在 X 平台部署了 1,120 个代理，涵盖 14 种人设和三种反事实条件，收集了超过 20 万条内容曝光数据。研究发现，相比时间顺序信息流，X 的算法推荐显著放大了有毒、极化、政治化和右倾内容，且放大程度随用户意识形态不同而剧烈变化。反事实分析显示，人口统计信号对内容推送的影响因人设而异：总体效应微弱，但子群层面的效应在方向和强度上均有差异。这项工作确立了基于生成式 AI 的代理作为算法审计的新工具。