多智能体大模型协作中的语义信息压缩现象

arXiv·4 天前

近日,一项发表在arXiv上的研究揭示了多智能体大语言模型系统中的一个关键问题:语义信息压缩现象。研究团队发现,当多个AI智能体协作处理复杂任务时,中间环节的文本转换会系统性地压缩关键的语义区分信息,导致下游决策准确性下降。

研究采用三智能体流水线架构(收集器-评估器-决策器),通过句子嵌入空间中的标签分离度来量化压缩程度。在政治事实核查、情感分析和医疗分诊三个领域的测试中,评估阶段的语义区分度平均下降41.7%,而直接传递则能几乎完全保留信息。

研究还设计了五种架构变体,证实了定向语义转换是压缩现象的主要驱动因素。有趣的是,一个追求可信度的变体虽然产生最小的几何压缩,却将输出偏向“基本真实”类别,表明转换方向独立于压缩程度控制着分布变化。

该现象在不同领域表现出不同强度:事实核查压缩41.7%,情感分析27.2%,医疗分诊20.0%。提示层面的回归分析解释了78%的变异,操作约束与较低压缩相关。这些发现对高风险领域的安全评估具有重要意义,提醒开发者在设计多智能体系统时需关注语义信息的完整性保护。

大语言模型多智能体系统语义压缩AI协作arXiv研究

原文来源:https://arxiv.org/abs/2607.14119

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回