扩散与流匹配背后的几何原理:Wasserstein空间中的梯度流与测地线

arXiv·27 天前

在概率度量空间P₂(ℝᵈ)中,二次Wasserstein距离W₂赋予其完整的度量几何结构,使其成为一个黎曼流形。该流形上的自由能泛函F(ρ)=KL(ρ||π)的梯度流恰好对应Fokker-Planck方程,其隐式欧拉离散化即JKO格式。这正是扩散模型的几何本质:前向过程沿自由能下降,每个去噪步骤实现一次JKO迭代,统一解释了DDPM、DDIM、NCSN/SMLD及能量匹配等模型。

同一流形还存在第二种变分原理:Benamou-Brenier公式的最小作用量曲线即最优传输路径,这正是流匹配模型学习的测地线。固定两端点沿测地线运动时,生成过程转化为沿直线的确定性ODE,大幅减少采样步数。

研究将两类模型置于同一几何框架下,明确其关系:扩散模型遵循自由能梯度流(初值问题),最优传输流匹配遵循Wasserstein测地线(边值问题)。二者沿不同路径抵达相同终点,为生成模型理论提供了统一的几何视角。

扩散模型流匹配最优传输几何理论生成模型

原文来源:https://arxiv.org/abs/2606.24157

相关阅读

AI_LectureNote:英语医学术语还原与语义保真度研究
大模型生成文本的“文学无风格”现象
大语言模型中的问题顺序效应:QQ等式审计揭示机制特性与饱和陷阱
首个吉尔吉斯语大模型基准发布:揭示低资源语言评估挑战
Scope3Trace:基于证据的Scope 3温室气体排放识别与提取框架

← 返回