【深度学习与实战】2.1、线性回归模型与梯度下降法先导案例--最小二乘法(向量形式求解)

为了求解损失函数 对  的导数，并利用最小二乘法向量形式求解  的值，我们按照以下步骤进行：

‌1. 损失函数的含义‌

这是‌线性回归‌的平方误差损失函数，目标是最小化预测值  与真实值  之间的差距。

‌定义损失函数‌：
考虑多个样本的情况，损失函数为所有样本的平方误差之和：

•  是损失函数
•  是  的设计矩阵（个样本，个特征）。
• 是  的权重向量。
• 是  的目标值向量。