生成式人工智能的扩散模型概述

生成式人工智能的扩散模型概述

1 引言

生成模型的目标是基于从未知潜在分布中采样得到的数据集，生成新的数据样本。为了实现这一目标，已经提出了许多不同的机器学习方法，例如生成对抗网络（GANs）、变分自编码器（VAEs）、自回归模型、归一化流和能量基模型。本文将介绍去噪扩散概率模型（DDPMs），这是一类生成方法，其基于重建一个扩散过程的思想。扩散过程从潜在分布开始，逐渐向其状态添加噪声，直到最终状态完全是噪声，然后反向重建。通过这种反向重建，纯噪声转变为有意义的数据，因此 DDPMs 提供了一种自然的生成框架。

DDPMs 最初在文献中提出，并在后续工作中进一步推广，已经能够在图像合成和编辑、视频生成、自然语言处理和异常检测等许多领域取得最先进的成果。在经典的形式中，DDPM 是一个由两个随机过程组成的框架，即正向过程和反向过程。正向过程——扩散过程——从初始时间步骤的（近似）潜在分布开始，然后逐渐向其状态添加噪声，直到其终止时间步骤的状态（近似）完全是噪声。反向过程——去噪过程——是一个参数化过程，从完全噪声的状态开始。在 DDPM 的背景下，关键思想是学习反向过程的参数，使得反向过程每个时间步骤的分布近似与正向过程对应时间步骤的分布相同。

2 去噪扩散概率模型（DDPMs）

2.1 数学框架

DDPMs 的核心在于定义一个前向扩散过程和一个反向去噪过程。

前向过程：这是一个固定的马尔可夫链，逐步向数据中添加高斯噪声。给定数据 $x_0$，前向过程定义为： $$ q(x_{1:T}|x_0) = \prod_{t=1}^{T} q(x_t|x_{t-1}) $$ 其中转移核通常为： $$ q(x_t|x_{t-1}) = \mathcal{N}(x_t; \sqrt{1-\beta_t}x_{t-1}, \beta_t\mathbf{I}) $$ 这里 $\beta_t$ 是一个预先设定的方差调度表，控制每一步添加噪声的量。利用重参数化技巧，可以直接计算任意时刻 $t$ 的状态 $x_t$： $$ x_t = \sqrt{\bar{\alpha}_t}x_0 + \sqrt{1-\bar{\alpha}_t}\epsilon, \quad \epsilon \sim \mathcal{N}(0, \mathbf{I}) $$ 其中 $\alpha_t = 1-\beta_t$，$\bar{\alpha}t = \prod{s=1}^{t} \alpha_s$。

反向过程：这是一个学习的马尔可夫链，旨在从噪声恢复数据。我们试图学习一个逆转移核 $p_\theta(x_{t-1}|x_t)$： $$ p_\theta(x_{0:T-1}|x_T) = p(x_T)\prod_{t=1}^{T} p_\theta(x_{t-1}|x_t) $$ 通常假设 $p_\theta(x_{t-1}|x_t)$ 也是高斯分布，由神经网络预测均值和方差。

2.2 训练目标

训练 DDPM 的目标是最小化证据下界（ELBO）的负值。对于高斯情况，这简化为预测噪声 $\epsilon$ 的均方误差损失： $$ L_{simple}(\theta) = \mathbb{E}{t,x_0,\epsilon} [||\epsilon - \epsilon\theta(x_t, t)||^2] $$ 其中 $\epsilon_\theta$ 是神经网络，输入为带噪图像 $x_t$ 和时间步 $t$，输出为预测的噪声。

3 带有高斯噪声的 DDPMs

本节考虑转移核由高斯分布给出的情况。直观而言，在这个设置中，我们认为正向过程逐渐向训练样本添加高斯噪声，反向过程则旨在逐渐去除噪声，从而恢复原始的训练样本。

3.1 高斯分布性质

高斯分布具有封闭性，多个高斯分布的卷积仍然是高斯分布。这使得我们可以直接计算 $q(x_t|x_0)$ 而不需要迭代模拟。

3.2 训练方案

在实际训练中，我们采样时间步 $t \sim U{1, ..., T}$，采样真实数据 $x_0$，采样噪声 $\epsilon \sim \mathcal{N}(0, \mathbf{I})$，计算 $x_t$，然后训练网络最小化预测噪声与真实噪声的差异。

# 简化的训练循环伪代码
for batch in dataloader:
    x0 = batch
    t = torch.randint(0, T, (batch_size,))
    epsilon = torch.randn_like(x0)
    alpha_bar = alphas_cumprod[t]
    xt = sqrt(alpha_bar) * x0 + sqrt(1 - alpha_bar) * epsilon
    pred_noise = model(xt, t)
    loss = mse_loss(pred_noise, epsilon)
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()