第二十六课:手搓梯度增强
🚀 Python实现梯度提升(Gradient Boosting):让模型从"学渣"变"学霸"的秘诀
梯度提升就像一群小学生一起做作业,每个学生都特别关注前一个学生做错的题目,最后全班成绩神奇地提高了!下面我用Python展示这个强大的算法。
📚 先导入必要的库
from sklearn.ensemble import GradientBoostingClassifier
from sklearn.datasets import make_classification
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
import matplotlib.pyplot as plt
import numpy as np
🏗️ 梯度提升实战四步走
1. 创建模拟数据
# 创建一个简单的二分类数据集
X, y = make_classification(n_samples=1000, n_features=10, n_classes=2, random_state=42)# 查看数据形状
print("特征矩阵形状:", X.shape)