基于论证模型，让AI诊断更透明可信

在医疗影像诊断中，AI模型常被用作辅助工具，但其决策过程往往缺乏透明度。近日，一项发布于arXiv的研究提出了一种创新框架，通过图尔敏论证模型来结构化解析AI的诊断结果。该模型将诊断分解为六个部分：主张（如AI的初步诊断）、依据（从影像中提取的生物标志物）、正当理由（连接依据与主张的逻辑）、限定词（对诊断可信度的量化评估）、反驳（基于图像相似性分析的潜在反例）以及支持（医学知识库的支撑）。研究中，专门模型负责提取影像中的生物标志物作为依据，而搭载医学知识的MedGemma智能体则分析正当理由。同时，利用MedSigLip计算图像相似性来构建反驳。所有组件最终呈现给人类专家，使其能够更全面、批判性地评估AI生成的诊断，从而在保持AI效率的同时，增强诊断过程的可解释性与可信度。这一方法有望推动AI在医疗等高风险领域的更可靠应用。