漂移模型：实现高质量单步生成的新范式

摘要

本文提出Drifting Models，通过训练时演化推送分布实现单步推理。引入漂移场控制样本移动，当生成分布与数据分布匹配时场强为零。训练目标最小化样本漂移，使优化器自然演化分布。在ImageNet 256×256上，潜在空间FID达1.54，像素空间FID达1.61，均为单步方法最优。

内容框架与概述

本文首先指出生成建模的本质是学习推送映射，将先验分布转换为数据分布。传统扩散/流模型在推理时迭代实现这一映射，而本文提出在训练时完成分布演化，从而实现单步推理。

核心创新在于引入漂移场概念。当生成样本受到数据分布吸引时产生漂移，通过最小化漂移实现分布匹配。这一机制使神经网络优化过程本身成为分布演化过程，训练完成后模型即可单步生成。

实验部分在ImageNet 256×256上验证方法有效性。潜在空间单步FID达1.54，像素空间达1.61，均显著超越以往单步方法，证明该范式在高质量生成任务上的潜力。

核心概念及解读

推送分布：神经网络将输入噪声分布映射后的输出分布，是生成模型的核心研究对象。

漂移场：驱动生成样本向数据分布移动的场函数，训练时引导分布演化，平衡时趋于零。

单步生成：推理时只需一次网络前向传播即可产出样本，无需迭代优化。

分布匹配：生成分布与数据分布的统计特性一致，是生成模型训练的目标状态。

原文信息

此摘要卡片由 AI 自动生成