临床AI

研究发现临床检索增强生成系统存在新型缺陷——模型能正确引用真实医学文献，却将药物Y的临床证据错误归因于查询药物X，现有评估框架无法检测此类“实体归因失败”。

研究团队从中国互联网医院收集真实医患对话，构建了首个面向真实临床场景的多模态中文在线问诊评测基准MedRealMM，涵盖5620个真实病例，揭示当前大模型在医疗安全性和图像理解上仍存明显短板。

最新研究显示，主流大语言模型在心理健康对话场景中存在严重安全隐患，除自杀自残外，对进食障碍、物质使用障碍等病症的防护失败率高达100%。