AI问答引擎如何影响全球冲突信息环境:幻觉与信息战的新挑战
随着人工智能问答引擎在和平与冲突议题中被广泛使用,其回答的可靠性与潜在风险引发学界关注。一项发布于arXiv的研究通过向五个主流AI引擎提问涉及28场冲突的5460个问题,并与事实证据比对发现:可检索记录越稀薄的冲突,AI引擎越容易虚构事实、错误归因与统计失误。研究指出,薄弱的信息记录不仅会加剧AI幻觉,更会形成结构性风险——这些记录极易通过“生成引擎优化”(GEO)技术被操纵,从而系统性偏置AI回答。通过对AI引用的1048个网站进行分析,研究者确认GEO式源头优化已在发生,尽管国家层面的数字信息捕获尚处早期,但发展迅速。该研究警示,随着GEO信息战的兴起,学界与政策制定者需重视AI工具无法替代的本地深度监测与翻译研究,并呼吁关注该快速演进领域的研究机遇与挑战。