扩散语言模型革新医疗报告起草：可任意填充文本片段

近日，arXiv平台发布一项研究，将扩散语言模型成功应用于医疗报告生成领域。传统医疗基础模型几乎完全采用自回归生成方式，而该研究则探索了扩散模型在医学文本生成中的潜力。

研究团队对DiffusionGemma-26B混合专家扩散语言模型进行适配，并在相同LoRA微调方案下，与同规模的自回归模型Gemma-4-26B进行对比测试。评估采用对文本长度变化鲁棒的LLM评判器，在多个医学视觉问答数据集上进行评测。结果显示，扩散模型在所有测试集上均达到或超越了自回归模型的性能水平。

特别值得注意的是，经过微调的扩散模型（实际激活参数量3.8B）在性能上可与前沿视觉语言模型竞争，同时解码速度提升3.5-4.4倍。更重要的是，扩散模型具备自回归模型缺乏的独特能力：任意顺序文本填充。由于扩散模型采用双向去噪机制，放射科医生可以固定报告中的某些片段，让模型自动填充中间内容。

这一特性特别适合实际医疗场景，因为不同医生和医疗机构撰写的报告往往存在简洁度不一致或表述差异的问题。扩散模型的文本填充能力为标准化、高质量的医疗报告起草提供了新的技术路径，有望提升医疗文档的完整性和一致性。