基于XGBoost算法的数据回归预测 极限梯度提升算法 XGBoost
一、作品详细简介
1.1附件文件夹程序代码截图
全部完整源代码，请在个人首页置顶文章查看：
学行库小秘_CSDN博客编辑https://blog.csdn.net/weixin_47760707?spm=1000.2115.3001.5343
1.2各文件夹说明
1.2.1 main.m主函数文件
该MATLAB 代码实现了一个基于基于XGBoost算法的数据回归预测模型，主要步骤分解如下：
1. 数据导入
- 从Excel文件数据集.xlsx中读取数据，存储到矩阵res中。
- 假设数据包含103行（样本）和8列（前7列为特征，第8列为标签）。
2. 划分训练集与测试集
- 随机划分：randperm打乱样本顺序，避免顺序偏差。
- 训练集：80个样本的特征（P_train）和标签（T_train）。
- 测试集：23个样本的特征（P_test）和标签（T_test）。
- 特征矩阵转置为 行表示特征，列表示样本（适配后续XGBoost输入）。
3. 数据归一化
- 归一化目的：消除量纲影响，提升模型收敛速度。
- 训练集：计算归一化参数（ps_input为特征参数，ps_output为标签参数）。
- 测试集：复用训练集的归一化参数，确保数据分布一致。
4. 数据转置
- 将数据还原为 行表示样本，列表示特征（适配XGBoost的MATLAB接口）。
5. 设置XGBoost参数
- 关键参数：
- num_trees：弱学习器（树）的数量。
- eta：学习率，控制过拟合。
- max_depth：树深度，影响模型复杂度。
6. 训练XGBoost模型
- 输入归一化后的训练数据（p_train为特征，t_train为标签）。
- 输出训练好的模型model。
7. 模型预测
- 使用训练好的模型预测训练集和测试集结果（结果为归一化后的值）。
8. 反归一化
- 将预测值还原到原始标签的量纲。
9. 评估指标计算
均方根误差（RMSE）
- RMSE衡量预测值与真实值的偏差（值越小越好）。
R²（决定系数）
- R²表示模型解释方差的比例（越接近1越好）。
MAE（平均绝对误差） & MBE（平均偏差误差）
- MAE：绝对误差的平均值（鲁棒性强）。
- MBE：预测偏差的平均值（正负表示高/低估趋势）。
10. 结果可视化
预测值对比图
- 红色星号：真实值；蓝色圆圈：预测值。
- 标题显示RMSE评估结果。
预测值-真实值散点图
- 点越接近对角线，预测越准确。
- 可直观识别离群点或系统偏差。
关键注意事项
- 数据泄露预防：测试集使用训练集的归一化参数（mapminmax('apply')）。
- 随机性：randperm确保每次运行划分结果不同（可固定随机种子复现结果）。
- XGBoost接口：需提前安装MATLAB版XGBoost（xgboost_train和xgboost_test）。
- 模型评估：
- 训练集指标（error1, R1）反映模型拟合能力。
- 测试集指标（error2, R2）反映泛化能力。
- MBE 可判断预测值系统性偏高/偏低。
此流程完整覆盖了回归任务的典型步骤：数据准备 → 预处理 → 模型训练 → 预测 → 反归一化 → 评估 → 可视化。
图2 main.m主函数文件部分代码
1.2.2 数据集文件
数据集为Excel数据csv格式文件，可以方便地直接替换为自己的数据运行程序。原始数据文件包含7列特征列数据和1列输出标签列数据，一共包含103条样本数据，具体如图所示。
二、代码运行结果展示
该代码实现了一个基于XGBoost算法的回归预测模型，用于对数据集进行建模和性能评估。
首先，它导入Excel数据集，随机划分80%样本作为训练集、23%作为测试集，并进行特征和标签的归一化预处理；
其次，设置XGBoost参数（包括100棵树、0.1学习率和5层最大深度），训练回归模型并在训练/测试集上进行预测；
最后，通过反归一化得到原始量纲的预测结果，计算RMSE、R²、MAE和MBE等评估指标，并绘制预测值对比曲线和真实值-预测值散点图进行可视化分析。
三、注意事项:
1.程序运行软件推荐Matlab 2018B版本及以上；
2.所有程序都经过验证，保证程序可以运行。此外程序包含简要注释，便于理解。
3.如果不会运行，可以帮忙远程运行原始程序以及讲解和其它售后，该服务需另行付费。
4. 代码包含详细的文件说明，以及对每个程序文件的功能注释，说明详细清楚。
5.Excel数据，可直接修改数据，替换数据后直接运行即可。