当前位置：首页 > news >正文

Python机器学习入门：用scikit-learn构建你的第一个预测模型

news 2025/8/22 6:36:17

引言

机器学习已经成为现代数据科学和人工智能的核心技术之一。对于初学者来说，Python的scikit-learn库提供了一个绝佳的入门平台。本文将带您从零开始，构建您的第一个机器学习预测模型。

什么是机器学习？

机器学习是一种人工智能技术，它使计算机能够从数据中学习模式，并基于这些模式对新数据进行预测或决策。简单来说，就是让计算机通过分析历史数据来预测未来的结果。

机器学习的主要类型

监督学习：使用带标签的数据进行训练
无监督学习：从无标签数据中发现隐藏模式
强化学习：通过与环境交互来学习最优策略

为什么选择scikit-learn？

scikit-learn是Python中最受欢迎的机器学习库之一，具有以下优势：

易于使用：简洁的API设计，适合初学者
功能丰富：包含大量机器学习算法
文档完善：详细的文档和示例
社区活跃：庞大的用户社区和持续更新
与其他库集成良好：与NumPy、Pandas等库无缝配合

环境准备

在开始之前，我们需要安装必要的Python库：

pip install scikit-learn pandas numpy matplotlib seaborn

实战项目：房价预测模型

让我们通过一个具体的例子来学习如何构建预测模型。我们将使用房屋特征数据来预测房价。

步骤1：导入必要的库

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error, r2_score
from sklearn.preprocessing import StandardScaler

步骤2：准备数据

# 创建示例数据集
np.random.seed(42)
n_samples = 1000# 生成房屋特征数据
data = {'area': np.random.normal(150, 50, n_samples),  # 面积（平方米）'bedrooms': np.random.randint(1, 6, n_samples),  # 卧室数量'age': np.random.randint(0, 50, n_samples),  # 房龄（年）'location_score': np.random.uniform(1, 10, n_samples)  # 位置评分
}# 创建目标变量（房价）
# 房价 = 基础价格 + 面积影响 + 卧室影响 - 房龄影响 + 位置影响 + 噪声
price = (100000 +  # 基础价格data['area'] * 2000 +  # 每平方米2000元data['bedrooms'] * 10000 +  # 每个卧室10000元-data['age'] * 1000 +  # 每年折旧1000元data['location_score'] * 5000 +  # 位置评分影响np.random.normal(0, 20000, n_samples)  # 随机噪声
)data['price'] = price# 创建DataFrame
df = pd.DataFrame(data)
print("数据集前5行：")
print(df.head())

步骤3：数据探索和可视化

# 查看数据基本信息
print("\n数据集基本信息：")
print(df.describe())# 检查缺失值
print("\n缺失值检查：")
print(df.isnull().sum())# 可视化数据分布
plt.figure(figsize=(15, 10))# 房价分布
plt.subplot(2, 3, 1)
plt.hist(df['price'], bins=30, alpha=0.7)
plt.title('房价分布')
plt.xlabel('价格')
plt.ylabel('频次')# 特征与房价的关系
features = ['area', 'bedrooms', 'age', 'location_score']
for i, feature in enumerate(features, 2):plt.subplot(2, 3, i)plt.scatter(df[feature], df['price'], alpha=0.5)plt.title(f'{feature} vs 房价')plt.xlabel(feature)plt.ylabel('价格')plt.tight_layout()
plt.show()# 相关性矩阵
plt.figure(figsize=(8, 6))
correlation_matrix = df.corr()
sns.heatmap(correlation_matrix, annot=True, cmap='coolwarm', center=0)
plt.title('特征相关性矩阵')
plt.show()

步骤4：数据预处理

# 分离特征和目标变量
X = df[['area', 'bedrooms', 'age', 'location_score']]
y = df['price']# 划分训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42
)print(f"训练集大小: {X_train.shape}")
print(f"测试集大小: {X_test.shape}")# 特征标准化（可选，对线性回归不是必需的，但是好习惯）
scaler = StandardScaler()
X_train_scaled = scaler.fit_transform(X_train)
X_test_scaled = scaler.transform(X_test)

步骤5：构建和训练模型

# 创建线性回归模型
model = LinearRegression()# 训练模型
model.fit(X_train, y_train)print("模型训练完成！")
print(f"模型系数: {model.coef_}")
print(f"模型截距: {model.intercept_}")

步骤6：模型评估

# 在训练集上预测
y_train_pred = model.predict(X_train)# 在测试集上预测
y_test_pred = model.predict(X_test)# 计算评估指标
train_mse = mean_squared_error(y_train, y_train_pred)
test_mse = mean_squared_error(y_test, y_test_pred)
train_r2 = r2_score(y_train, y_train_pred)
test_r2 = r2_score(y_test, y_test_pred)print("\n模型评估结果：")
print(f"训练集 MSE: {train_mse:.2f}")
print(f"测试集 MSE: {test_mse:.2f}")
print(f"训练集 R²: {train_r2:.4f}")
print(f"测试集 R²: {test_r2:.4f}")# 可视化预测结果
plt.figure(figsize=(12, 5))# 训练集预测 vs 实际
plt.subplot(1, 2, 1)
plt.scatter(y_train, y_train_pred, alpha=0.5)
plt.plot([y_train.min(), y_train.max()], [y_train.min(), y_train.max()], 'r--', lw=2)
plt.xlabel('实际价格')
plt.ylabel('预测价格')
plt.title(f'训练集预测结果 (R² = {train_r2:.4f})')# 测试集预测 vs 实际
plt.subplot(1, 2, 2)
plt.scatter(y_test, y_test_pred, alpha=0.5)
plt.plot([y_test.min(), y_test.max()], [y_test.min(), y_test.max()], 'r--', lw=2)
plt.xlabel('实际价格')
plt.ylabel('预测价格')
plt.title(f'测试集预测结果 (R² = {test_r2:.4f})')plt.tight_layout()
plt.show()

步骤7：使用模型进行预测

# 预测新房屋的价格
new_house = pd.DataFrame({'area': [120],'bedrooms': [3],'age': [5],'location_score': [8.5]
})predicted_price = model.predict(new_house)
print(f"\n新房屋预测价格: {predicted_price[0]:,.2f} 元")# 特征重要性分析
feature_importance = pd.DataFrame({'feature': X.columns,'coefficient': model.coef_,'abs_coefficient': np.abs(model.coef_)
}).sort_values('abs_coefficient', ascending=False)print("\n特征重要性（按系数绝对值排序）：")
print(feature_importance)

模型改进建议

1. 尝试不同的算法

from sklearn.ensemble import RandomForestRegressor
from sklearn.svm import SVR# 随机森林
rf_model = RandomForestRegressor(n_estimators=100, random_state=42)
rf_model.fit(X_train, y_train)
rf_pred = rf_model.predict(X_test)
rf_r2 = r2_score(y_test, rf_pred)print(f"随机森林 R²: {rf_r2:.4f}")

2. 特征工程

创建新特征（如面积与卧室数的比值）
处理异常值
特征选择

3. 超参数调优

from sklearn.model_selection import GridSearchCV# 网格搜索示例
param_grid = {'n_estimators': [50, 100, 200],'max_depth': [None, 10, 20, 30]
}grid_search = GridSearchCV(RandomForestRegressor(random_state=42),param_grid,cv=5,scoring='r2'
)