当前位置: 首页 > news >正文

解释全连接层的“参数数量”和“计算过程”,保证像看动画片一样直观~

假设场景

  • 输入图像:一张极小的  灰度图(即 H=2,W=2,共4个像素),像素值如图所示:


  • 隐藏层:假设隐藏层也是 (即 H=2,W=2,共4个神经元),每个神经元用 ( 表示(i=1,2 是行,j=1,2 是列)。

一、全连接的“参数数量”为什么是 H×W×H×W?

关键:每个隐藏层神经元都要和输入图像的 所有像素 连接,且每个连接都有一个独立的权重。
  • 输入图像像素数量H×W=2×2=4(每个像素坐标 )。
  • 隐藏层神经元数量(每个神经元坐标 )。
每个神经元需要多少权重?

以隐藏层神经元 为例:它要连接输入图像的 所有4个像素,所以需要 4个权重(每个像素对应一个权重)。

总权重数量:

总权重=隐藏层神经元数量×每个神经元的权重数量=4×4=16
对应公式中的

二、计算过程:如何通过“累加”得到隐藏层神经元值?

以隐藏层神经元  为例,一步步计算它的值 
步骤1:明确神经元  的权重(假设权重值如下)

权重 是一个4阶矩阵(可以理解为“每个神经元有一组权重”),这里简化为:神经元  的权重为一个  的矩阵(对应输入图像的4个像素):

(符号中,前两个下标表示隐藏层神经元,后两个下标 表示输入图像像素。)

步骤2:每个像素乘以对应权重

输入图像的4个像素分别为:

  • ,对应权重→ 乘积:
  • ,对应权重→ 乘积:
  • ,对应权重 → 乘积:
  • ,对应权重 → 乘积:
步骤3:累加所有乘积结果(关键!)


这就是“累加结果”的过程:把所有像素与对应权重的乘积加起来,得到神经元的输出值。

三、隐藏层的4个神经元都要这样算!

上面只算了隐藏层的1个神经元 ,但还有  三个神经元,每个神经元都有 自己独立的4个权重,都要重复上述“像素×权重→累加”的过程。

  • 例如神经元  的权重可能是

        ,计算方式完全相同;

  • 4个神经元 × 每个4个权重 = 16个权重(对应前面的参数数量)。

为什么要“累加”?一句话总结

每个神经元像一个“小计算器”,它需要综合输入图像的 所有信息(全连接特性),而“加权求和”(像素×权重后累加)是综合信息最简单的方式(就像你期末考试时,把各科成绩乘以学分后相加得到总分)。

视觉化比喻

  • 输入图像的4个像素 = 4个学生的成绩;
  • 隐藏层神经元 1,1(1,1) = 一个“总成绩计算器”;
  • 权重 = 各科成绩的“学分”(不同计算器可以设置不同学分);
  • 累加结果 = 学生的“加权总分”(神经元的输出值)。
http://www.dtcms.com/a/276794.html

相关文章:

  • c++反射实现
  • # 打开【设备和打印机】菜单时显示成新式【打印机和扫描仪】菜单,怎么才能显示传统带打印机图标菜单?
  • batchnorm类
  • 【DIY小记】逸剑风云决烟尘回响+武家旧事+碧海仙踪DLC攻略整合
  • 哈希扩展 --- 位图
  • 专业硬件检测工具 AIDA64 Extreme V7.70.7500 至尊版
  • Sentry 集成
  • 基于51单片机的超声波智能避障小车仿真
  • YOLOv11 vs 前代模型:全面性能对比与分析
  • 蒙特卡洛树搜索方法实践
  • 系统性学习C语言-第十五讲-深入理解指针(5)
  • matplotlib:多个图表的绘制
  • RocketMQ-
  • 69 局部变量的空间分配
  • 系统引导修复
  • 功耗校准数据PowerProfile测试方法建议
  • (一)一阶数字低通滤波器---原理及其推导
  • 程序改错---字符串
  • 十三、K8s自定义资源Operator
  • 客户资源被挖?营销方案泄露?企业经营信息保护避坑指南
  • Python Day11
  • Agent任务规划
  • 【PMP备考】敏捷思维:驾驭不确定性的项目管理之道
  • QT中设计qss字体样式但是没有用【已解决】
  • 文件系统(精讲)
  • JVM与系统性能监控工具实战指南:从JVM到系统的全链路分析
  • 【每日刷题】阶乘后的零
  • SOEM build on ubuntu
  • Golang实战:使用 Goroutine 实现数字与字母的交叉打印
  • 使用bp爆破模块破解pikachu登录密码