AI问答引擎如何影响全球冲突信息环境:幻觉与信息战的新挑战

arXiv·4 天前

随着人工智能问答引擎在和平与冲突议题中被广泛使用,其回答的可靠性与潜在风险引发学界关注。一项发布于arXiv的研究通过向五个主流AI引擎提问涉及28场冲突的5460个问题,并与事实证据比对发现:可检索记录越稀薄的冲突,AI引擎越容易虚构事实、错误归因与统计失误。研究指出,薄弱的信息记录不仅会加剧AI幻觉,更会形成结构性风险——这些记录极易通过“生成引擎优化”(GEO)技术被操纵,从而系统性偏置AI回答。通过对AI引用的1048个网站进行分析,研究者确认GEO式源头优化已在发生,尽管国家层面的数字信息捕获尚处早期,但发展迅速。该研究警示,随着GEO信息战的兴起,学界与政策制定者需重视AI工具无法替代的本地深度监测与翻译研究,并呼吁关注该快速演进领域的研究机遇与挑战。

大语言模型信息战AI幻觉生成引擎优化冲突研究

原文来源:https://arxiv.org/abs/2607.14197

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回