吴恩达机器学习（五）
一、代价函数
Neural Network分类问题：
代价函数：
二、反向传播算法
前向传播算法：
反向转播算法：对每一个结点计算一项l来代表第l层的第j个结点的误差，用来捕捉
在这个神经节点的激活值的误差。
进一步理解反向传播：
梯度检验：确保前向传播或者反向传播是百分百正确的。
随机初始化：
训练一个神经网络：
① 随机初始化权重
② 执行前向传播算法
③ 计算代价函数
④ 执行反向传播算法来计算偏导数项
⑤ 使用梯度检验来计算通过反向传播得到的偏导数值与用数值方法得到的估计值进行比较。
⑥使用一个优化算法与反向传播算法相结合来最小化参数的代价函数