每天五分钟深度学习：如何判断神经网络是过拟合还是欠拟合？

本文重点

当我们有了一个数据集的时候，根据数据的量的不同，我们如何将我们的数据按比例分为训练集数据、验证集数据以及测试集数据。这个是上节课程中的内容，本节课程中我们学习，当我们将数据完成分割之后，那么我们就可以使用训练集数据和验证集数据完成对算法的偏差和方差的判定，以便于我们解决算法当前所遇到的问题。

三种情况

如上数据集所示，我们可以看到数据集中有两类样本：一类是⚪，另外一类是×，那么现在我们想要使用一个神经网络来学习出一个决策边界，那么我们基本上可以学习出下面的三种情况：

第一种判定边界，它并没有很好的分割正负样本，这是高偏差的情况，我们称它为欠拟合。

第三种判定边界，虽然它很好的分割了正负样本，但是它的分割有些过度了，所以也不是一种非常友好的拟合分类器，这是高方差的情况，我们称它为过拟合。

第二种判定边界，复杂程度适中，这个看起来这个判定边界还