机器学习分类算法详解：原理、应用场景与测试用例
一、基础分类算法
1. 决策树
- 原理：
通过递归划分数据集，选择信息增益（ID3）或基尼系数（CART）最大的特征作为分裂节点，构建树结构。叶节点代表分类结果。 - 应用场景：
- 医疗诊断（需解释性，如判断疾病风险）。
- 客户分群（如根据消费行为划分用户群体）。
- 测试用例：
数据集：Iris（鸢尾花）数据集。
实现：使用 scikit-learn 的 DecisionTreeClassifier，可视化树结构并观察特征重要性。
2. 逻辑回归
- 原理：
使用 Sigmoid 函数将线性回归结果映射到 [0,1]，表示概率。通过最大似然估计优化参数。 - 应用场景：
- 垃圾邮件检测（二分类：是/否）。
- 信用评分（预测用户违约概率）。
- 测试用例：
数据集：泰坦尼克生存预测。
实现：用 LogisticRegression 预测乘客是否幸存，评估 AUC-ROC 曲线。
3. 支持向量机（SVM）
- 原理：
寻找最大间隔超平面分离类别，核函数（如 RBF）处理非线性可分数据。 - 应用场景：
- 文本分类（高维稀疏数据，如新闻分类）。
- 图像识别（如手写数字识别）。
- 测试用例：
数据集：MNIST 手写数字。
实现：使用
