机器学习:线性回归
线性回归:研究自变量和因变量之间的关系。对于特征x=(x1,x2,x3....)与对应的标签y,线性回归假设二者之间存在线性映射。f(x)=w1x+w2x(平方)+w3x(三次方)...,权重w表示每个特征变量的重要程度。越大表示越重要。
线性回归目标:求解w和b使得f(x)与y尽可能的接近。
一元线性回归:
f(x)=wx+b,目标函数J(w,b)
令目标函数对w和b的偏导数为0
对w求偏导其他看作常量,w看作变量那么复合函数一开始是当作函数平方形式求导,在对内层求导因此还要乘-x(i)。对b求偏导同理。
进行化简
多元线性回归推导太复杂我不会,想学的自己看吧。
【多元线性回归公式推导】https://www.bilibili.com/video/BV1Eg411j7ZB?vd_source=47de80bcce8630d9c3c112bdb143c43e