人工智能学习：线性模型，损失函数，过拟合与欠拟合

1.线性回归

回归问题：连续

分类问题：离散

1.1线性关系

Y = w1x1 + w2x2 + .... + b

1.2 线性模型

线性模型有两种：变量一次；参数一次。

2.损失函数

在求参数过程中不断改进，让损失函数最小也就是离真实值越近就是要求的参数。

2.1损失函数的改进方法

2.1.1正规方程

y = ax^2 + bx +c

y' = 2ax + b

x = -b / 2a

运算速度慢，只能用在线性模型。

2.1.2梯度下降

3.过拟合和欠拟合

解决过拟合：正则化

L2:损失函数+λ惩罚项

3.1岭回归