当前位置: 首页 > news >正文

cnn中的dropout技术

lenet5中这个:

bool connection_table[6 * 16] = {
                O, X, X, X, O, O, O, X, X, O, O, O, O, X, O, O,
                O, O, X, X, X, O, O, O, X, X, O, O, O, O, X, O,
                O, O, O, X, X, X, O, O, O, X, X, O, X, O, O, O,
                X, O, O, O, X, X, O, O, O, O, X, X, O, X, O, O,
                X, X, O, O, O, X, X, O, O, O, O, X, O, O, X, O,
                X, X, X, O, O, O, X, X, O, O, O, O, X, O, O, O
};

突然意识到,就是dropout。

按辛顿的意思,dropout是随机丢弃一部分,我想,有选择的部分结合使用connection_table,可能给了辛顿灵感!

我在无意中,把这个connection_table增加了两列=6*18,增加两列使用五合一。

然而,我没意识到使用序号(6*16)index=i*w+j,在6*18中已经变了,然而没有意识到,训练成绩反而成了佼佼者!

这是什么意思,有意的安排,变成了乱序,不就是随机吗?

编程中犯浑,无意栽柳,我就不必去求证了,辛顿估计也是这样的(前人很感兴趣的研究出了成果),促使他的dropout技术,论文我也没看,我就这个风格,喜欢瞎猜!

估计我猜测对了!

相关文章:

  • 如何在jupyter notebook中使用django框架
  • Linux 配置时间服务器
  • 企业级全栈开发终极指南:Spring Boot+Vue3+Kubernetes实战,从0到上线高并发系统
  • 禾赛盈利了,但激光雷达没有胜利
  • 基于web的家政服务网站
  • JPA实体类注解缺失异常全解:从报错到防御!!!
  • 【CF】Day15——Codeforces Round 1012 (Div. 2) CD
  • 【微服务架构】故障转移策略的理解及手写实现
  • C++ STL 序列式容器之(三)-- List
  • 【模型压缩+推理加速】知识蒸馏综述解读
  • 第四章 异常处理
  • 基于大模型的结核性胸膜炎风险预测及临床方案研究报告
  • CF2041C Cube
  • 《Operating System Concepts》阅读笔记:p481-p482
  • stanley 路径跟踪控制算法
  • 从概率到梯度:理解分类问题中交叉熵的优越性
  • 竞品已占据市场先机,如何找到差异化突破口
  • IT监控知识库:构建智能运维的认知中枢
  • idea激活后一直出现弹窗解决办法
  • 银行分布式新核心的部署架构(两地三中心)
  • 网站服务器搭建的步骤/上海有哪些优化网站推广公司
  • 网站建站解决方案/bt樱桃 磁力岛
  • 连接器零售在什么网站做/南宁网站建设网站推广
  • 西安网站建设托管/百度关键词购买
  • 如何在凡科建设网站/品牌活动策划
  • 奥联网站建设/seo营销软件