当前位置: 首页 > wzjs >正文

永修县建设局网站网站策划方案范文

永修县建设局网站,网站策划方案范文,河北正规网站建设比较,网站备案 营业执照副本多层感知机 结构组成 大致由三层组成:输入层-隐藏层-输出层,其中隐藏层大于等于一层 其中,隐藏层和输出层都是全连接 隐藏层的层数和神经元个数也是超参数 多层隐藏层,在本质上仍等价于单层神经网络(可从输出方程…

多层感知机

结构组成

大致由三层组成:输入层-隐藏层-输出层,其中隐藏层大于等于一层

其中,隐藏层和输出层都是全连接

隐藏层的层数和神经元个数也是超参数

多层隐藏层,在本质上仍等价于单层神经网络(可从输出方程简单推得),
但是增加网络的深度可以更加有效地提高网络对深层抽象概念的理解,降低训练难度

激活函数

目前Sigmoid函数正在被逐渐淘汰,目前仅在二分类问题上仍有用武之地

目前最主流的激活函数是ReLU函数及其变种,它使模型更加简单高效,没有梯度消失问题,对输入的敏感程度更高,迭代速度更快

具体实现

  • 完整版本
import d2lzh as d2l
from mxnet import nd
from mxnet.gluon import loss as gloss'''
基础准备工作
'''
batch_size = 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size)num_inputs, num_outputs, num_hiddens = 784, 10, 256W1 = nd.random.normal(scale=0.01, shape=(num_inputs, num_hiddens))      # 形状等于 输入*输出
b1 = nd.zeros(num_hiddens)
W2 = nd.random.normal(scale=0.01, shape=(num_hiddens, num_outputs))      # 形状等于 输入*输出
b2 = nd.zeros(num_outputs)
params = [W1, W2, b1, b2]
for param in params:param.attach_grad()     # 统一申请梯度空间# 激活函数
def relu(X):return nd.maximum(X, 0)# 模型
def net(X):# 一个图片样本正好转化成1*num_inputs的大小,不是巧合,就是要一次性把整张图片放进网络X = X.reshape((-1, num_inputs)) H = relu(nd.dot(X, W1)+b1)      # 隐藏层需要应用激活函数return nd.dot(H, W2) + b2       # 输出层不需要用激活函数# 损失
loss = gloss.SoftmaxCrossEntropyLoss()'''
开始训练
'''
num_epochs, lr = 20, 0.2
d2l.train_ch3(net, test_iter, test_iter, loss, num_epochs, batch_size, params, lr)
  • 简化版本
import d2lzh as d2l
from mxnet import gluon, init
from mxnet.gluon import loss as gloss, nnnet = nn.Sequential()
# 添加一层256个节点的全连接层,并使用ReLU激活函数
# 再添加一层10个节点的全连接层,不使用激活函数(输出层)
net.add(nn.Dense(256, activation='relu'), nn.Dense(10))
net.initialize(init.Normal(sigma=0.01))batch_size = 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size)loss = gloss.SoftmaxCrossEntropyLoss()trainer = gluon.Trainer(net.collect_params(), 'sgd', {"learning_rate": 0.2})
num_epochs = 20
d2l.train_ch3(net, test_iter, test_iter, loss, num_epochs, batch_size, None, None, trainer)

实际上只简化了训练器的构建,由此也可以发现,实现一个网络的训练是一件非常简单的事情,复杂的主要是训练前后的各种处理,训练只是手段,不是目的

注意事项

尝试将隐藏层的数量改成1024,再增加训练次数,此时可以发现,模型对训练集的误差一直在缩小,但是对测试集的误差不降反增,此时发生了过拟合

http://www.dtcms.com/wzjs/183811.html

相关文章:

  • 如何做好一个购物网站自己做网络推广怎么做
  • wordpress自动分享插件河南网站推广优化排名
  • 台州优化排名推广花都网络推广seo公司
  • 网站制作高端网站建设网站页面的优化
  • 国企网站建设合同互联网金融
  • centos wordpress 建站教程海淀区seo多少钱
  • 青海省公路建设管理局门户网站磁力宅
  • 徐州方案公示在哪个网站百度一下1688
  • 网站seo推广优化报价表nba总得分排行榜最新
  • 做网站常用的小语种有哪些seo网站管理招聘
  • 重庆餐饮网站设计超级优化
  • php网站怎么做自适应小说关键词提取软件
  • 深圳福田区怎么样seo是什么平台
  • 做电影网站需要什么软件北京sem
  • 莆田的外贸网站网站优化公司怎么选
  • 视频教学互动网站建设正规排名网站推广公司
  • 常德网站建设常德客服外包平台
  • 营销型网站传统网站运城seo
  • 化妆品网站建设流程图网络营销教学网站
  • 云梦网络做网站响应式网站建设
  • 游戏推广应该怎么推广东seo外包服务
  • lnmp wordpress 301网络seo优化公司
  • dede小游戏php网站源码百度经验悬赏任务平台
  • 辽宁专业网站建设北京seo经理
  • 企业网站建设博客论坛免费b2b网站大全免费
  • 农业种植养殖网站建设上海百度seo网站优化
  • 百度一wordpressseo和竞价排名的区别
  • 商务网站建设实训报告产品推广方式
  • 阿里巴巴开通诚信通后网站怎么做网站内容如何优化
  • 做色情灰色网站怎么判刑获客软件