当前位置: 首页 > news >正文

(鱼书)深度学习入门2:手搓感知机

这章内容其实很巧,我在整理李航老师的MLP多层感知机那一块,就打算将统计学习中的感知机也整理出来,只不过统计学习那一个模块还卡着,就深度学习这边先上了;

1,感知机的数学性形式

2,简单逻辑电路的类比

这一块其实对于我来说很亲切,因为想当初我本科学的就是电子信息,其中数字逻辑电路是专业基础课,各种电路的门控元件的运算是基础。

其实这里的逻辑就是param3>parm1 AND param3>param2 AND param<param1+param2;

与非门,就是元素在AND运算之后,对结果做一个Not的颠倒。

逻辑门电路可以坍缩成感知机模型

3,感知机的实现

也可以实现与非门和或门,不过让我们来对它们的实现稍作修改。

bias和weight,偏置和权重,感知机的最基本概念

对于权重以及偏置理解概念的深入与否:

权重w1和w2是控制输入信号的重要性的参数,而偏置是调整神经元被激活的容易程度(输出信号为1的程度)的参数,偏置的值决定了神经元被激活的容易程度。

4,感知机的局限性

我们先不看异或门,我们先看或门的实现,

举一些简单的样本例子来可视化异或门的分类输出分类情况,

下面坐标系中的4个点,其实输出label的信息都被压缩在点dot的形状里了,

我们想要找的感知机(单层)就是一条直线,我们想要依据不同的x输出不同的y,就等将于将不同输出y对应的x值输入分开类,

其实分类任务可以类比传统机器学习里的很多东西,比如说是LDA/SVM等。

类似于非线性SVM,线性可分与线性不可分,非线性还要用到核技巧。

5,多层感知机

只要我们输入输出的映射对应关系(执行机制)和逻辑门一样,能够达到与非门、或门以及与门的效果,

那么我们只要将这些逻辑门元件的嵌套实现逻辑代入不同层次的神经元,用神经元拟合嵌套逻辑,那么形式上我们就能够完全等价接受这个MLP多层感知机。

感知机是下一章要学习的神经网络的基础

http://www.dtcms.com/a/273357.html

相关文章:

  • PostgreSQL创建新实例并指定目录
  • 下一代防火墙混合模式部署
  • Jupyter介绍
  • MySQL事务实现原理
  • SpringCloud系列 - 分布式锁(八)
  • html页面,当鼠标移开A字标就隐藏颜色框
  • Spring Boot项目中大文件上传的优化策略与实践
  • 华为鸿蒙3.0 4.0完全关闭纯净模式的方法以及临时绕过纯净模式检测的方法
  • 接口(上篇)
  • 基于深度学习的自动调制识别网络(持续更新)
  • 亚洲牧原:活跃行业交流,延伸公益版图,市场拓展再结硕果
  • 布隆过滤器原理
  • 我的世界模组开发——机械动力的渲染(4)
  • java-io流
  • 对象序列化与反序列化
  • 【PyTorch】PyTorch 自动微分与完整手动实现对比
  • vue3 element plus table 使用固定列,滑动滚动会错位、固定列层级异常、滑动后固定列的内容看不到了
  • Java多线程 V1
  • AIStarter 3.2.0正式上线!高速下载+离线导入+一键卸载新功能详解【附完整使用教程】✅ 帖子正文(字数:约 400 字)
  • 静态路由综合实验
  • WiFi技术深度研究报告:从基础原理到组网应用与未来演进
  • python+django/flask基于微信小程序的农产品管理与销售APP系统
  • CTFshow-PWN-栈溢出(pwn62-pwn64)
  • JAVA面试宝典 -《新潮技术:协程与响应式编程实践》
  • 【Ubuntu】编译sentencepiece库
  • next.js打包后的前端资源如何进行部署和访问,为什么没有index.html
  • Vue响应式原理六:Vue3响应式原理
  • Java 17 新特性解析:密封类与模式匹配的完美协作
  • 01背包问题总结
  • 三维旋转沿轴分解