DiScoFormer：单Transformer同时处理密度与评分，跨分布通用

近日，一项发表于arXiv的研究提出了DiScoFormer模型，该模型创新性地利用单一Transformer架构，能够同时学习概率密度函数和评分函数。传统方法通常需要分别建模密度估计和评分匹配，而DiScoFormer通过统一的框架，实现了对多种数据分布的高效处理。研究显示，该模型在图像生成、异常检测等任务中表现出色，展现了跨分布建模的潜力。这一进展为简化生成模型设计、提升计算效率提供了新思路，有望推动概率建模领域的进一步发展。