FaithMed框架:让医疗大模型学会“循证推理”
在医疗领域,临床决策需要基于可靠证据的透明推理。然而,当前医疗大模型要么缺乏主动获取证据的能力,要么在使用检索到的证据时缺乏对证据评估和应用过程的监督。针对这一问题,研究团队提出FaithMed框架,将循证医学原则转化为过程级评估标准,并结合强化学习方法进行训练。该框架采用临床医生设计、自动优化的评估标准,通过步骤级过程奖励分配和优势分组技术,监督模型在推理过程中对证据的合理使用。在七个医疗基准测试中,FaithMed相比基于代理搜索的基线方法平均提升9%,相比仅基于结果的强化学习方法提升5.8%,同时在循证医学评估标准得分上比基于Qwen3的代理搜索基线提升15.5%。研究表明,明确的步骤级监督不仅能提高任务成功率,还能增强推理过程的可靠性。相关代码已在GitHub开源。