LUCID：首个检测大语言模型知识图谱推理幻觉的新方法

知识图谱推理通过现有事实推断新知识，广泛应用于问答、推荐和决策支持。随着大语言模型的快速发展，基于大语言模型的知识图谱推理框架因其能够利用检索到的图谱信息而日益流行。然而，大语言模型中的幻觉问题依然严峻——即使引入了相关图谱知识，模型仍可能生成错误输出，导致信息失真和决策不可靠。

现有幻觉检测方法主要关注大语言模型内部状态或验证与检索上下文的一致性，但均忽略了知识图谱的结构信息，导致检测效果受限。为填补这一空白，研究团队提出了LUCID方法，这是首个专门针对大语言模型知识图谱推理框架的幻觉检测技术。

LUCID创新性地联合利用大语言模型的注意力分数、知识图谱的语义信息和结构特征：首先从注意力分数和语义相似度中提取节点与边特征，再通过图神经网络将这些特征与图谱结构进行融合。为评估该方法，团队还构建了人工标注的基准数据集。

实验结果显示，在九个数据集上，LUCID相比15个基线模型取得了最优性能，验证了其有效性。该研究为提升大语言模型在知识密集型任务中的可靠性提供了新思路。