无需训练!多模态文档问答证据溯源新方法,精度匹敌GPT-5.4
随着基于证据的问答系统在AI助手中的广泛应用,准确追溯生成答案的来源证据对建立用户信任和保障模型安全至关重要。虽然单模态溯源技术已有深入研究,但多模态场景下的证据溯源仍相对空白。为此,研究团队提出MultAttnAttrib——一种无需训练的多模态溯源生成方法。该方法巧妙利用模型的前向填充过程、精选注意力头及校准阈值,直接在多模态文档中定位答案的证据来源。
为建立评估基准,团队同步发布了MultAttrEval数据集,这是首个专门针对长文档多模态溯源任务设计的评估数据集。该数据集包含精细标注的真实证据溯源信息,覆盖多模态文档中各类答案组件的来源标注。实验结果显示,MultAttnAttrib在多种溯源生成方法中表现突出,不仅显著提升了单模态和多模态溯源的准确率,更在相同基础模型上实现了比提示方法快七倍的推理速度。值得注意的是,该方法在精度上已能与GPT-5.4等前沿模型相媲美,为多模态问答系统的可解释性提供了高效实用的解决方案。