最新ECCV最新大感受野的小波卷积

一、最新ECCV最新大感受野的小波卷积

1、WTConv小波卷积层，利用小波变换，WT去解决CNN，在实现大感受野时遇到的过度参数优化问题
主要目的是通过对输入的不同频率的频带进行处理，时CNN能够有效的捕获局部和全局特征

WTConv成功的解决了了CNN在感受野扩展的参数膨胀问题，对于yolov11中c3k3模块中减少一定的参数来和计算量，达到轻量化

1、尝试增大CNN的卷积核，模仿视觉Transformer中自注意力模块的全局感受野
该方法达到全局感受野之前很快就饱和了
利用小波变换，在不出现很大参数过度化的情况下，可以获得非非常大的感受野
eg，有个K*K的感受野，提出方法训练参数数量随着K的对数级别增长，成为WTconv，具有现成的架构可直接替换模块，
能够实现多频率响应，根据随着感受野的大小平滑的扩展，

总结，使用小波变换WT，可以获得非常大的感受野，

1、提出新的卷积层叫做WTConv小波卷积，利用小波变换去解决CNN中遇到大的感受野时参数过大的问题

2、问题，在传统CNN受限于卷积核的大小，感受野不能太大，不然参数会爆炸，难以捕获全局上下文信息，

3、解决方案，WTConv利用小波变换，通过多频率相应扩展卷积的感受野，去在不同频率范围执行小的卷积操作，
通过小波分解，模型可以在更大的范围内捕获更低频的信息，且能避免模型的过度参数化，

4、优势吗，
参数增长的缓慢，WTConv参数的数量仅仅随着感受野的对数级别额增长，而不是平方级别
感受野扩大，WTConv通过层级小波分解，潜在不增大参数来的情况下，明显的增大CNN 的感受野
形状偏差，WTConv层对图像中低频信息更加敏感，增强CNN对形状的相应能力

总结。WTconvn能够结局CNN感受野扩展中出现的参数膨胀问题