吴恩达机器学习（三）
一、过拟合问题
过拟合：如果存在过多变量，这时训练给出的假设能很好地拟合训练集，此时代价函数可能无限接近于0或者等于0 。会导致无法泛化到新的样本中。
解决过拟合问题：
① 减少选取变量的数量；
② 正则化：保留所有的特征变量并减少量级
二、代价函数
在代价函数中加入惩罚项：
这就是正则化背后的思想，如果我们的参数值较小就意味着一个更简单的假设模型。
后面这一项的目的就是缩小每一个参数
线性回归的正则化：
其中是正则化参数
逻辑回归的正则化：
过拟合：如果存在过多变量，这时训练给出的假设能很好地拟合训练集，此时代价函数可能无限接近于0或者等于0 。会导致无法泛化到新的样本中。
解决过拟合问题：
① 减少选取变量的数量；
② 正则化：保留所有的特征变量并减少量级
在代价函数中加入惩罚项：
这就是正则化背后的思想，如果我们的参数值较小就意味着一个更简单的假设模型。
后面这一项的目的就是缩小每一个参数
线性回归的正则化：
其中是正则化参数
逻辑回归的正则化：