【算法】线性回归

线性回归速通与 Python 实战

一、核心要点速通

• 模型与目标：用线性组合描述特征与连续目标的关系，形式为：y = β0 + β1·x1 + … + βn·xn + ε。目标是最小化预测误差，常用均方误差（MSE）作为损失函数。求解可用正规方程 θ = (XᵀX)⁻¹Xᵀy，或用梯度下降迭代优化。评估常用MSE、RMSE、MAE、R²。为抑制过拟合可用正则化：Ridge（L2）、Lasso（L1）。线性回归假设包括线性关系、独立性、同方差性、残差近似正态等，便于解释与诊断。

二、Python 最小可用示例

• 用 scikit-learn 完成“生成数据 → 训练 → 评估 → 可视化”的完整闭环，并对比加入Ridge/Lasso正则化的效果。

import numpy as np
import matplotlib.pyplot as plt
from sklearn