杭电 神经网络与深度学习 学习笔记
考试范围：
机器学习基础：
绪论
基础网络模型：
前馈神经网络
卷积神经网络
循环神经网络
网络优化与正则化
记忆与注意力机制
无监督学习
模型独立学习方式
1.绪论
神经网络：一种以人工神经元为基本单元的数学网络模型。
深度学习：一类机器学习问题以及解决这类问题的方法。
涉及的知识体系：
人工智能（artificial intelligence）：
让机器具有人类的智能。
标志性事件：
1956年的达特茅斯（Dartmouth）会议，标志着人工智能这个学科的诞生。
深度学习与机器学习、人工智能的关系：
人工智能：机器展现的人类智能；
机器学习：计算机利用已有的数据（经验），得出了某种规律，并利用此模型预测未来的一种方法；
深度学习：实现机器学习的一种技术。
人工智能的发展轴：
机器学习的流程：
浅层学习：不涉及特征学习，其特征主要是靠人工经验或特征转换方法来抽取。
什么是好的数据表示？
非常主观，但一个好的表示具有以下几个优点：
极强的表示能力；
使得后续的学习任务变得简单。
特征提取 vs 表示学习：
特征提取：依据先验或任务目标，手动去除无用特征。
表示学习：把“学特征”并入模型，用深度网络自动学习高层语义特征。
深度学习：
通过构建具有一定“深度”的模型，可以让模型来自动学习好的特征表示（从底层特征，到中层特征，再到高层特征），从而最终提升预测的准确性。
人工神经网络示意图：
