新方法「分流转码」高效检测大语言模型幻觉

大语言模型在知识检索和人机交互中展现出强大能力，但其生成的文本常包含事实错误和虚构内容，这种「幻觉」现象严重影响了模型的可靠性。现有检测方法多基于概率统计，计算成本高昂且实用性受限。

最新研究提出名为「分流转码」的创新方法，在解码阶段主动挑战模型生成的回答，通过分析模型对替代答案的「抵抗程度」提取特征。这些特征被用于训练机器学习模型，形成评估模型不确定性的启发式指标。

实验结果表明，该方法在幻觉检测任务上表现优于现有技术，同时计算复杂度显著降低。这种高效且鲁棒的解决方案为大语言模型的可信度评估提供了新思路，有望推动AI系统在医疗、法律等高风险领域的实际应用。研究论文已发布于arXiv预印本平台。