✅ 今日目标
- 理解支持向量机（SVM）分类器的基本原理
- 掌握核函数的作用（线性、RBF 等）
- 使用
sklearn.svm.SVC 实现 SVM 分类任务 - 可视化超平面与边界
- 比较不同核函数下的分类表现
📘 一、SVM 核心概念
| 概念 | 解释 |
|---|
| 支持向量 | 离分类边界最近的点 |
| 间隔最大化 | SVM 寻找最大间隔的超平面 |
| 核函数 | 用于处理非线性分类任务，将数据映射到高维空间 |
| 常见核函数 | linear、poly、rbf（高斯径向基）、sigmoid |
🧪 二、基本用法演示
from sklearn.svm import SVCmodel = SVC(kernel='rbf', C=1.0, gamma='scale')
model.fit(X_train, y_train)
y_pred = model.predict(X_test)
| 参数 | 含义 |
|---|
kernel | 核函数类型 |
C | 正则项系数，控制间隔与误差的权衡 |
gamma | 核函数系数，控制模型复杂度 |
🧠 三、训练与可视化思路
- 构造二维特征数据（成绩 + 性别）
- 使用 SVC 分别训练 linear 和 rbf 模型
- 可视化不同核函数下的决策边界（使用 contourf）
- 输出分类准确率与报告
📈 四、模型调参建议
| 方法 | 工具 |
|---|
| 网格搜索 | GridSearchCV |
| 交叉验证 | cross_val_score |
| 可视化比较 | 画出不同模型边界 |
🧾 今日总结
| 收获 | 技能 |
|---|
| 支持向量的思想 | 核函数映射 |
| 分类建模能力 | sklearn.svm.SVC() 使用 |
| 参数调优意识 | gamma 和 C 的权衡 |
💻 练习脚本
import numpy as np
import matplotlib.pyplot as plt
from sklearn.svm import SVC
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score, classification_reportplt.rcParams['font.family'] = 'Arial Unicode MS'
plt.rcParams['axes.unicode_minus'] = False
np.random.seed(42)
size = 100
scores = np.random.randint(40, 100, size)
genders = np.random.choice([0, 1], size=size)
labels = (scores >= 60).astype(int)X = np.column_stack(((scores - scores.mean()) / scores.std(), genders))
y = labelsX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
models = {'Linear SVM': SVC(kernel='linear'),'RBF SVM': SVC(kernel='rbf')
}
def plot_decision_boundary(model, X, y, title):x_min, x_max = X[:, 0].min() - .5, X[:, 0].max() + .5y_min, y_max = X[:, 1].min() - .5, X[:, 1].max() + .5xx, yy = np.meshgrid(np.linspace(x_min, x_max, 300),np.linspace(y_min, y_max, 300))Z = model.predict(np.c_[xx.ravel(), yy.ravel()]).reshape(xx.shape)plt.contourf(xx, yy, Z, alpha=0.3, cmap=plt.cm.coolwarm)plt.scatter(X[:, 0], X[:, 1], c=y, cmap=plt.cm.coolwarm, edgecolors='k')plt.xlabel("标准化成绩")plt.ylabel("性别（0=女，1=男）")plt.title(title)plt.tight_layout()plt.show()
for name, model in models.items():model.fit(X_train, y_train)y_pred = model.predict(X_test)print(f"\\n=== {name} ===")print("准确率：", accuracy_score(y_test, y_pred))print(classification_report(y_test, y_pred))plot_decision_boundary(model, X, y, title=name + " 分类边界")
运行输出：
=== Linear SVM ===
准确率： 1.0precision recall f1-score support0 1.00 1.00 1.00 71 1.00 1.00 1.00 13accuracy 1.00 20macro avg 1.00 1.00 1.00 20
weighted avg 1.00 1.00 1.00 20
