幻觉检测

研究人员提出「分流转码」新方法，通过主动挑战模型生成内容来检测大语言模型的幻觉问题，相比现有方案计算复杂度显著降低。

研究人员提出CORTEX方法，通过对比大模型在有/无检索文档时的内部表征，实现细粒度的token级幻觉检测，在多个基准测试中表现优异。

研究者通过分解研究发现，基于探针的不确定性估计方法在不同条件下表现差异显著，隐藏状态和注意力特征在域内效果最佳，但结构化特征在分布偏移时更稳健。

研究者推出MedBench v5临床多模态模型基准测试，从静态问答转向动态过程评估，首次整合幻觉传播监测与可控压力测试，揭示模型任务表现与过程稳定性之间的关键差异。

研究者提出LUCID方法，首次针对大语言模型知识图谱推理框架中的幻觉问题，通过联合利用注意力分数、语义信息和图结构进行检测，在九个数据集上超越15个基线模型。