论文精度：BoltzFormer：基于Boltzmann采样的动态稀疏注意力机制在小物体图像分析中的应用

论文地址：https://arxiv.org/pdf/2503.02841

目录

背景与挑战

小物体检测的困境

现有方法的局限

核心创新：BoltzFormer架构

总体设计思想

关键技术解析

1. Boltzmann注意力采样

概率分布建模

动态采样过程

2. 多查询集成机制

并行查询设计

协同进化策略

3. PiGMA聚合模块

双路径融合

实现细节

性能优势分析

理论优势

实测表现

关键实验发现

消融实验揭示设计选择

失败案例分析

应用场景展望

医学影像领域

扩展应用

未来发展方向

---

背景与挑战

小物体检测的困境

在医学影像分析中，肺结节、肿瘤病灶等微小目标的检测与分割是核心任务，但这些目标往往仅占整幅图像的0.1%以下。传统Transformer架构在处理此类问题时面临两大挑战：

1. ​冗余计算：全局注意力机制导致大量计算资源浪费在无关区域。例如，一张1024x1024的CT图像中，一个5x5的病灶仅占0.02