当前位置: 首页 > news >正文

AI进化论06:连接主义的复兴——神经网络的“蛰伏”与“萌动”

各位老铁,上回咱们聊了AI的第一次“寒冬”,符号主义AI因为各种“bug”和“坑”被“打入冷宫”。但就在这冰天雪地里,另一条“技术路线”——连接主义(Connectionism),却在默默地“积蓄力量”。这连接主义啊,跟符号主义完全是两个路子:符号主义是“硬编码”,连接主义就是“数据驱动”,让机器自己“悟”!

1. 符号主义的另一面:从“规则”到“数据”,让机器自己“悟”

符号主义强调“规则”和“逻辑”,就像我们写代码,把所有业务逻辑都用if-else写得明明白白。但连接主义呢,它更侧重于“数据”和“学习”。它觉得,智能这玩意儿,不是你把规则写得多全就能搞定的,而是机器得能从海量数据中自己“悟”出规律,通过调整神经元之间的“连接强度”(也就是我们说的“权重”),来适应新的输入。这不就是我们现在说的“机器学习”嘛!

2. 早期的火花:感知机与它的“冬天”——一个“Hello World”级别的bug

连接主义的“火种”,其实很早就有了。1943年,两位老哥就搞出了M-P神经元模型,这是最早的“人工神经元”,模拟了生物神经元的简单工作方式。这玩意儿,就像我们现在写代码,先搞个“Hello World”出来。

1957年,又有个叫罗森布拉特的老哥,发明了感知机(Perceptron)。这玩意儿,就是个能学习分类的简单神经网络,能通过调整权重来识别模式,比如区分不同形状的图片。这在当时可把大家激动坏了,觉得AI要起飞了!

在这里插入图片描述

但好景不长,1969年,明斯基和佩珀特两位大佬,合写了本《感知机》的书。这本书“严谨”地证明了,单层感知机解决不了“异或(XOR)问题”——这玩意儿,就是个简单的非线性分类问题,在我们现在看来,简直是个“Hello World”级别的bug!但当年,这结论直接给神经网络“判了死刑”,导致了神经网络研究的第一次“寒冬”。很多研究员都跑去搞符号主义AI了。

3. 蛰伏中的突破:反向传播算法——打通神经网络的“任督二脉”

虽然感知机“翻车”了,但总有那么几个“死心眼”的,没放弃。在20世纪70年代和80年代,一系列关键的算法突破,为神经网络的“复活”奠定了基础:

  • 多层感知机: 大家发现,只要给神经网络多加几层(也就是“隐藏层”),它就能解决非线性问题,包括那个“异或问题”!
  • 反向传播(Backpropagation)算法: 这玩意儿,简直是神经网络发展史上的“神来之笔”!虽然它的核心思想早在1974年就被提出了,但直到1986年,才被鲁梅尔哈特、辛顿和威廉姆斯这几位大佬重新“挖”出来,并推广开来。反向传播算法,就像给神经网络打通了“任督二脉”,让它能高效地学习和调整权重,从而从数据中“悟”出更复杂的模式。

在这里插入图片描述

反向传播算法的出现,让训练多层神经网络成为可能,极大地提升了神经网络的“学习能力”和“表达能力”。这不就是我们现在说的“深度学习”嘛!

4. 并行分布式处理:寒冬中的“抱团取暖”

1986年,鲁梅尔哈特、辛顿和麦克莱兰这几位大佬,还出了本书叫《并行分布式处理》。这本书系统地阐述了连接主义的理论框架,展示了神经网络在认知科学领域的潜力。这标志着连接主义研究的正式“复兴”,吸引了大量研究员重新投入到神经网络的“怀抱”。这不就是寒冬中“抱团取暖”嘛!

5. 萌动中的局限:没数据,没算力,再牛也白搭

虽然反向传播算法带来了突破,但20世纪80年代和90年代的神经网络研究,依然面临着“没数据,没算力”的困境:

  • 计算能力不足: 训练大型神经网络,那可是个“算力吞噬兽”,当时的计算机性能根本喂不饱它。
  • 数据稀缺: 巧妇难为无米之炊,没有大规模的标注数据集,神经网络再能学也白搭。
  • “梯度消失”问题: 随着网络层数越深,反向传播过程中梯度会变得非常小,导致深层网络训练起来“跟便秘一样”,极其困难。

这些“硬伤”,让神经网络在当时的应用仍然有限,没能像后来的深度学习那样“一飞冲天”。但连接主义的“火种”已被重新点燃,为未来的“大爆发”积蓄着能量。

结语

在AI的第一次寒冬中,连接主义以其独特的“数据驱动”视角和反向传播算法的突破,为AI研究开辟了新的“技术路线”。虽然当时的“硬件条件”和“数据条件”限制了它的“发挥”,但神经网络的“蛰伏”与“萌动”,预示着一场更深刻的变革即将到来。正是这些看似微小的进步,最终汇聚成了AI的下一次浪潮。

下一篇,咱们就聊聊第二次AI寒冬,看看当年AI是怎么“改头换面”,从“AI”变成“机器学习”的,以及它为深度学习的爆发做了哪些“铺垫”。敬请期待!

http://www.dtcms.com/a/272470.html

相关文章:

  • k8s集群--证书延期
  • 项目进度管控依赖Excel,如何提升数字化能力
  • 调度器与闲逛进程详解,(操作系统OS)
  • UI前端与数字孪生结合案例分享:智慧城市的智慧能源管理系统
  • 数据结构笔记10:排序算法
  • Windows 本地 使用mkcert 配置HTTPS 自签名证书
  • Java并发 - 阻塞队列详解
  • XSS(ctfshow)
  • 文心大模型4.5开源测评:保姆级部署教程+多维度测试验证
  • 图书管理系统(完结版)
  • PyCharm 中 Python 解释器的添加选项及作用
  • 创始人IP如何进阶?三次关键突破实现高效转化
  • QT解析文本框数据——详解
  • pycharm中自动补全方法返回变量
  • 自动化脚本配置网络IP、主机名、网段
  • React封装过哪些组件-下拉选择器和弹窗表单
  • 常用的.gitconfig 配置
  • 【显示模块】嵌入式显示与触摸屏技术理论
  • HarmonyOS AI辅助编程工具(CodeGenie)UI生成
  • 时序数据库的存储之道:从数据特性看技术要点
  • 使用深度学习框架yolov8训练监控视角下非机动车电动车头盔佩戴检测数据集VOC+YOLO格式11999张4类别步骤和流程
  • UEditor 对接 秀米 手机编辑器流程与问题
  • ClickHouse 查看正在执行的SQL查询
  • Django--01基本请求与响应流程
  • go go go 出发咯 - go web开发入门系列(四) 数据库ORM框架集成与解读
  • selenium跳转到新页面时如何进行定位
  • 前缀和|差分
  • S7-1200 与 S7-300 PNS7-400 PN UDP 通信 TIA 相同项目
  • 缓存一致性问题(Cache Coherence Problem)是什么?
  • 使用Word/Excel管理需求的10个痛点及解决方案Perforce ALM