当前位置：首页 > news >正文

基于目标导向扩散模型与影响函数的EHR数据生成方法

news 2025/9/23 16:51:56

一、理论支撑：扩散模型基础

1.前向过程

2. 反向过程

二、TarDiff方法框架

1. 影响函数的定义

2. 梯度引导的逆向扩散

3. 实施流程

三、实验验证与性能分析

1. 数据替代测试（TSTR）

2. 数据增强测试（TSRTR）

3. 处理类别不平衡的能力

4. 生成样本可视化对比

四、计算效率分析

五、结论与贡献

文献名称：Target-Oriented Diffusion Guidance for Synthetic Electronic Health Record Time Series Generation

作者：Bowen Deng , Chang Xu , Hao Li , Yuhao Huang , Min Hou , Jiang Bian

发表会议：2025KDD

电子健康记录（EHR）数据蕴含着巨大的医疗价值，然而传统生成模型在合成此类数据时，通常侧重于学习其统计分布和时间依赖性，未能充分考虑生成数据对下游任务性能的优化作用。EHR数据普遍存在分布不均衡问题，传统生成模型仅基于数据分布合成样本，在遇到罕见病症时，由于缺乏对这些少数模式的学习，生成能力受限。此外，尽管传统方法能够保证生成数据的统计保真度，却难以确保其在特定下游任务（如疾病预测或分类模型）中带来性能提升。

针对上述局限性，本研究将合成数据生成的指导思想从传统的“保真度优先”转变为“效用性优先”。我们引入了“影响函数”（Influence Function）的概念，用以生成能显著提升下游任务性能的样本，特别是对改善模型在少数类样本上表现至关重要的数据。本文提出的TarDiff（Target-oriented Diffusion）框架，其核心思想是将数据生成的目标从单纯模仿数据分布，转化为优化生成数据在下游任务中的性能。它通过影响函数量化引入新生成样本后下游任务损失的减少量，并将该影响梯度作为引导信号注入到反向去噪过程，从而生成能更好提升下游任务性能的样本。

一、理论支撑：扩散模型基础

扩散模型包括前向加噪和反向去噪两个过程.

1.前向过程

逐步向数据中添加高斯噪声。设原始数据为 $x_{0}$ ，则在时间步t时有：

$q(x_t | x_{t-1}) = \mathcal{N}(x_t; \sqrt{1 - \beta_t} x_{t-1}, \beta_t \mathbf{I})$

其中 βt∈(0,1)是噪声调度参数。通过重参数化技巧，可写为：

$x_t = \sqrt{\bar{\alpha}_t} x_0 + \sqrt{1 - \bar{\alpha}_t} \epsilon, \quad \epsilon \sim \mathcal{N}(0, \mathbf{I})$

这使得采样过程可导，便于梯度优化。

2. 反向过程

学习一个去噪模型：

$p_\theta(x_{t-1} | x_t) = \mathcal{N}(x_{t-1}; \mu_\theta(x_t, t), \Sigma_\theta(t))$

通常固定方差，均值由神经网络预测。训练目标是最小化预测噪声与真实噪声之间的均方误差：

$L(\theta) = \mathbb{E}_{t, x_0, \epsilon} \left[ \| \epsilon_\theta(x_t, t) - \epsilon \|^2 \right]$

条件扩散模型（如Classifier Guidance）可通过附加信息（如标签 y）引导生成：

$\tilde{\mu}_\theta(x_t, y, t) = \mu_\theta(x_t, y, t) + \alpha \nabla_{x_t} \log p(y | x_t)$

二、TarDiff方法框架

TarDiff的核心思想是：将生成目标从模仿数据分布转变为优化下游任务性能。通过影响函数量化合成样本对任务损失的影响，并以此指导扩散过程。

图1 影响指导扩散框架

1. 影响函数的定义

设下游任务 T的损失函数为 $\ell_T$ ，训练集为 $\mathcal{D}_{\text{train}}$ 。若加入合成样本 $\hat{z} = (x, y)$ ，重新训练模型得到参数 $\phi^{\hat{z}}$ ，则其于指导集 $\mathcal{D}_{\text{guide}}$ 上的损失变化为：

$\Delta \mathcal{L}_T(\hat{z}) = -\mathbb{E}_{(x', y') \sim \mathcal{P}} \left[ \ell_T(x', y'; \phi^{\hat{z}}) - \ell_T(x', y'; \phi^*) \right]$

目标为生成使 ΔLT(z^)最大的样本。

2. 梯度引导的逆向扩散

在每一步去噪中，TarDiff 不仅依赖标签条件，还引入影响梯度作为引导：

$\tilde{\mu}_{\theta}(x_{t}, y, t)=\mu_{\theta}(x_{t}, y, t)+\alpha \nabla_{x_{t}} \Delta \mathcal{L}_{T}$

其中 $\hat{z}_{t}=(x_{t}, y)$ 。通过链式法则与梯度缓存机制，实际计算时使用：

$J=\nabla_{x_{t}}\left[G \cdot \nabla_{\phi} \ell(x_{t}, y ; \phi^{*})\right]$

其中 $G = -\sum_{(x',y') \in \mathcal{D}_{\text{guide}}} \frac{\varepsilon \cdot \nabla_{\phi} \ell(x', y'; \phi^{*})}{\|\nabla_{\phi} \ell(\hat{z}; \phi^{*})\|^{2}}$ 是指导集梯度的聚合向量。