Diffusion Model与 Flow Model的区别与联系

一.扩散模型（Diffusion Model）

      1.扩散模型是一种基于逐渐引入噪声然后逐步去噪的生成模型。其灵感来源于物理学中的扩散过程，例如热量在物体中的扩散。扩散模型的核心思想是通过一个正向过程逐步向数据添加噪声，最终将数据转化为噪声，然后再通过一个反向过程从噪声恢复数据。

      2.工作原理：

      正向过程（Forward Process）：从真实数据开始，逐步添加噪声。这个过程通常是一个马尔科夫过程，每一步都会加入一定量的噪声，直到数据最终变成纯噪声。例如，对于图像数据，正向过程可以是：其中x0是原始图像，xT是完全噪声的图像，T表示步骤的数量。

​

      反向过程（Reverse Process）：一旦数据被噪声化，我们再训练一个神经网络来模拟反向过程，从噪声数据逐步去除噪声，恢复出原始数据。通过这个反向过程，模型学会了如何从噪声中重构数据。反向过程的目标是学习如何从每个阶段的噪声图像生成前一阶段的图像。通常，训练是通过最小化KL散度来进行的。

      3.优势：

• 生成质量：扩散模型生成的图像在视觉质量上通常非常出色，特别是在细节和真实感方面，甚至有时可以超过传统的GAN。