当前位置: 首页 > news >正文

分组卷积(Grouped Convolution)原理与应用详解

卷积太耗算力了,能不能减少计算量?

于是分组卷积(Grouped Convolution)被提出,它并不是为了更强大的表达能力,而是为了在更小的计算量下保持足够的特征提取能力,典型代表正是 AlexNet 和 ResNeXt


2. 分组卷积的核心思想

一句话总结:

卷积方式输入通道与卷积核关系
普通卷积每个卷积核对所有输入通道卷积
分组卷积将输入通道 分成 G 组,各组单独卷积

也就是说,它不是在全通道范围做卷积,而是把输入通道拆成几份,每份单独操作,再把结果拼在一起。


3. 形象类比(10秒记住)

假设你要给 100 本书做分类

  • 普通卷积:一个人拿着 100 本书,一个人完成整个工作

  • 分组卷积(G=4):4个人,每人只负责 25 本,然后最后汇总

好处:速度更快、过程互不干扰
坏处:每组能看到的“信息范围变小”,感受不到其他组特征


4. 数学原理(非常简单的版本)

设输入通道为 Cin,输出通道为 Cout,组数为 G

卷积方式参数量
普通卷积Cout * Cin * K * K
分组卷积Cout * (Cin/G) * K * K

也就是说:

分组卷积的计算量 = 普通卷积的 1/G

G=Cin 时,就是我们熟悉的 Depthwise Conv(深度可分离卷积里的第一步)


5. PyTorch 实现示例
import torch
import torch.nn as nnx = torch.randn(1, 16, 64, 64)  # Batch=1, 通道=16, 特征图=64×64conv_group = nn.Conv2d(in_channels=16, out_channels=32, kernel_size=3, padding=1,groups=4   # 设置分组
)y = conv_group(x)
print(y.shape)  # torch.Size([1, 32, 64, 64])

只要 groups>1,就是分组卷积。


6. 分组卷积真正用在哪?
代表网络卷积特点引入目的
AlexNet最早使用降低显存和计算量
ResNeXt大量使用指数级提升特征表达同时保持计算低
MobileNetG = Cin(Depthwise)极限压缩卷积计算量

一句总结它的价值:

在不明显降低特征能力的情况下,用更少计算量换更高效率


7. 与标准卷积对比总结
对比项普通卷积分组卷积
信息交互全局局部组内
计算量低 1/G
特征表达更充分受限但高效
实际用途精度优先性能优先

8. 小结

分组卷积适用于:

  • 网络需要更高运行速度

  • 轻量化网络

  • 想让网络有更丰富特征子空间(ResNeXt Card)

但不适用于:

  • 模型容量极致重要的情况

  • 需要通道间高度融合信息的任务

一句收尾:

分组卷积是性能与算力的折中设计,是轻量化网络的关键积木。

http://www.dtcms.com/a/524092.html

相关文章:

  • 【信道利用率】为什么卫星链路用 SW 协议效率低?ARQ 信道利用率公式 + 计算题全解!
  • 三极管MOS管
  • PHP拆分重组pdf,php拆分pdf指定页数,并合并成新pdf
  • 详解C语言数组
  • 鹤山做网站公司建设网站宣传
  • 微信网站开发视频教程开发一个小软件多少钱
  • 释放内存与加速推理:PyTorch的torch.no_grad()与torch.inference_mode()
  • 论文笔记(九十六)VGGT: Visual Geometry Grounded Transformer
  • 城市基础设施安全运行监管平台
  • 网络 UDP 和 TCP / IP详细介绍
  • 数据结构(8)
  • [cpprestsdk] ~异步流处理(eg`basic_istream`、`basic_ostream`、`streambuf`) 底层
  • Linux 查找符合条件的文档
  • ​九小场所 / 乡镇监督防火 ——1 个平台管水源 / 隐患,整改率提 80%
  • 郑州做网站找绝唯科技地方类门户网站
  • 哪里可以做免费的物流网站国外室内设计案例网站
  • 【Linux系统】从零掌握make与Makefile:高效自动化构建项目的工具
  • ML:Supervised/Unsupervised
  • 开发网站多少钱北京 工业网站建设公司排名
  • 【后端开发面试题】
  • 【coze】基础概念与使用
  • Java 语法糖详解(含底层原理)
  • 企业网站介绍越南做企业网站
  • 免费建设电影网站宁波优化推广找哪家
  • JAVA1024 类 object类 包装类 享元模式 ;类继承 :interface ;构造方法
  • 树与二叉树的奥秘全解析
  • 《Python 正则表达式完全指南:从入门到精通》(AI版)
  • 【linux】vim快速清空整个文件
  • 基于单片机的故障检测自动保护智能防夹自动门设计及LCD状态显示系统
  • 2025妈妈杯大数据竞赛B题mathorcup:物流理赔风险识别及服务升级数学建模数模教学大学生辅导思路代码助攻