UNet改进（35）：基于WGAM模块的PyTorch实战

一、小波变换与注意力机制的理论基础

1.1 小波变换在图像处理中的优势

小波变换是一种时频分析方法，能够同时在时间和频率域上提供信号的信息。与傅里叶变换相比，小波变换具有以下优势：

• 多分辨率分析：能够同时捕获图像的全局和局部特征

• 方向敏感性：可以检测水平、垂直和对角线方向的特征

• 能量压缩：能够将图像能量集中在小波系数中

在图像处理中，小波变换常用于特征提取、去噪和压缩等任务。离散小波变换(DWT)将图像分解为四个子带：近似系数(LL)、水平细节(LH)、垂直细节(HL)和对角细节(HH)。

1.2 注意力机制的原理与价值

注意力机制源于人类视觉系统的工作原理，能够选择性地关注输入中的相关信息。在深度学习中，注意力机制通过以下方式提升模型性能：

• 特征选择：增强重要特征，抑制无关特征

• 空间适应性：根据不同空间位置调整特征权重

• 通道特异性：针对不同通道分配不同的重要性