大模型隐式通信：文本传输的局限与潜在通道探索

多智能体系统在各领域广泛应用，其协作依赖于智能体间的通信机制，目前主要采用明文消息传递方式。最新研究假设大语言模型可能拥有超越文本表达能力的内部世界模型，特别是在传递复杂概念时。为验证这一假设，研究团队设计了结构化实验，通过稀疏自编码器特征分析量化了LLM智能体在文本通信中的信息损失程度。

研究构建了三种通信通道进行比较：实验显示，在28倍压缩条件下，SAE稀疏通道保持了99.4%的探测准确率，而文本通道仅为80.4%。在跨架构通信实验中，通过潜在空间对齐技术，Llama与Mistral模型间实现了92%的Top-1检索准确率。特征生存分析发现，文本序列化过程会破坏88%的SAE特征，这些特征被完全不同的特征集所取代，这种损失属于特征替换而非衰减。

研究进一步量化了线性对齐方法带来的3-10个百分点的性能损失，非线性对齐方法则能改善这一状况。在任务层面评估中，潜在通道在跨语言概念任务上与文本通道表现相当，但始终未能超越。将潜在特征与文本结合也未带来额外收益，这对初始假设提出了挑战：丢失的特征主要编码的是表面形式而非任务相关语义。研究表明，要证明潜在通信相对于文本通道的实际优势，需要设计能够激发复杂概念的深层任务并建立相应的分析框架。