机器学习（四）

一，人工神经网络(Artificial Neural Network):

        简介：人工神经网络是一种监督学习算法，可以类比人脑中的运作方式。神经网络接受输入，通过某些函数在神经网络中进行传递，导致某些后续神经元被激活，从而产生输出。（函数越复杂 神经网络对输入数据的拟合能力越大 预测准确性越高）

        组成：输入层+隐藏层+输出层

                输入层（Input Layer）：即输入神经网络的数据，不对数据进行任何处理

                隐藏层（Hidden Layer）：对输入的数据进行处理和计算。隐藏层可以有一层或多层，是神经网络的关键。每个节点通过权重和偏置接受上一层的输入，并用于激活函数。

                输出层（Output Layer）：输出最后的结果。

          （可类比为多层级联的变换过程，每一层的输出作为下一层的输入，通过权重矩阵和激活函数逐步传递数据）

     

        工作原理：

                规定：输入层为第0层，中间的隐藏层为第1～n层，输出层为第n+1层。对每个隐藏层产生的结果用表示，n代表第n层。每一隐藏层的输入数据来自于上一层的输出数据。x表示该层的第x个函数

                注：每一层内的每个神经元对数据进行处理的函数称之为激活函数，对来自上一层的输入值进行加工和处理，最终产生输出，作用于下一层。

                激活值：由激活函数产生的输出值，作为下一层的输入。

二，利用TensorFlow构建神经网络：

三，python中实现向前传播：

        ①单个层中的向前传播：

                ②向前传播的一般实现：

                定义dense函数+sequential函数

        ③向量化实现向前传播：

                简化dense函数，对Z进行向量化，并通过举证运算（numpy.dot）和matmul，可以简化代码