手机wap网站html源码138ip查询网域名解析

• 如果没有激活函数，无论网络多么复杂，最后的输出都是输入的线性组合，而纯粹的线性组合并不能解决更为复杂的问题。

• 引入激活函数之后，由于激活函数都是非线性的，这样就给神经元引入了非线性元素，使得神经网络可以逼近任何非线性函数，这样使得神经网络应用到更多非线性模型中。

激活函数分为 sigmoid函数 和 relu函数

 

 例如下面，加了不同激活函数的结果