条件扩散过程（附录H）

H 条件扩散过程

在本节中，我们表明，可以通过与 $p_{\theta }(x_t|x_{t+1})p_{\varphi }(y|x_t)$ 成比例的转移算子实现条件采样，其中 $p_{\theta }(x_t|x_{t+1})$ 近似于 $q(x_t|x_{t+1})$，而 $p_{\varphi }(y|x_t)$ 近似于带噪声样本 $x_t$ 的标签分布。

我们首先定义一个类似于 $q$ 的条件马尔可夫噪声过程 $\hat{q}$，并假设对于每个样本，$\hat{q}(y|x_0)$ 是已知且容易获得的标签分布。

虽然我们定义了在 $y$ 条件下的噪声过程 $\hat{q}$，但我们可以证明，当不在 $y$ 条件下时，$\hat{q}$ 的行为与 $q$ 完全相同。沿着这些思路，我们首先推导无条件噪声算子 $\hat{q}(x_{t+1}|x_t)$：

遵循类似的逻辑，我们得到联合分布 $\hat{q}(x_{1:T}|x_0)$：

利用公式44，我们现在可以推导出 $\hat{q}(x_t)$：

利用恒等式 $\hat{q}(x_t)=q(x_t)$ 和 $\hat{q}(x_{t+1}|x_t)=q(x_{t+1}|x_t)$，通过贝叶斯规则可以很直观地表明无条件反向过程 $\hat{q}(x_t|x_{t+1})=q(x_t|x_{t+1})$。

关于 $\hat{q}$ 的一个观察结果是，它会产生一个含噪声的分类函数 $\hat{q}(y|x_t)$。我们可以证明，这个分类分布不依赖于 $x_{t+1}$（$x_t$ 的一个更嘈杂版本），我们稍后将使用这一事实：

我们现在可以推导条件反向过程：

$\hat{q}(y|x_{t+1})$ 项可以视为常数，因为它不依赖于 $x_t$。因此，我们希望从分布 $Zq(x_t|x_{t+1})\hat{q}(y|x_t)$ 中采样，其中 $Z$ 是归一化常数。我们已经有一个对 $q(x_t|x_{t+1})$ 的神经网络近似，称为 $p_{\theta }(x_t|x_{t+1})$，所以剩下的就是对 $\hat{q}(y|x_t)$ 的近似。这可以通过在从 $q(x_t)$ 采样得到的带噪声图像 $x_t$ 上训练分类器 $p_{\varphi }(y|x_t)$ 来实现。