【Block总结】LRSA，局部区域自注意力|即插即用

论文信息

本文提出了一种新颖的轻量级图像超分辨率网络，称为内容感知令牌聚合网络（CATANet）。该网络旨在解决基于Transformer的方法在高空间分辨率下的计算复杂度问题。CATANet通过高效的内容感知令牌聚合模块（CATA）来捕捉长距离依赖关系，同时保持高推理速度。

• 论文连接：https://arxiv.org/pdf/2503.06896
• Github代码链接： https://github.com/EquationWalker/CATANet

创新点

1. 内容感知令牌聚合模块（CATA）：该模块通过聚合内容相似的令牌来减少冗余信息，提高效率。与传统方法不同，CATA在训练阶段更新令牌中心，而在推理阶段保持不变，从而加快推理速度。
2. 组内自注意力（IASA）和组间交叉注意力（IRCA）：这两种机制分别用于在内容感知区域内和组间进行信息交互，增强了模型对远距离依赖关系的捕捉能力。
3. 轻量级设计：CATANet的设计使其适用于资源受限的环境，如移动设备，且在保持高性能的同时显著提高了处理速度。