统计学习方法

一、统计学习方法步骤

1. 得到一个有限的训练数据集合
2. 确定学习模型的集合-假设空间
3. 确定模型选择的准则-策略
4. 实现求解最优模型的算法-算法
5. 通过学习方法选择最优模型
6. 利用学习的最优模型对新数据进行预测或分析

二、统计学习方法分类

三、统计学习的基本分类（监督学习，无监督学习，强化学习）

3.1监督学习

监督学习是指从标注数据中学习预测模型的机器学习问题，其本质是学习输入到输出的映射的统计规律。

3.1.1相关概念

• 输入空间（Input Space）：输入的所有可能取值的集合。
• 实例（Instance）：每一个具体的输入就是一个实例，通常由特征向量（Feature Vector）表示。
• 特征空间（Feature Space）：所有特征向量存在的空间。
• 输出空间（Output Space）：输出的所有可能取值的集合。

根据变量类型不同可分为以下问题：

• 输入变量与输出变量均为连续变量的预测问题-----------回归问题
• 输出变量为有限个离散变量的预测问题--------------------分类问题
• 输入变量与输出变量均为变量序列的预测问题-----------标注问题

3.1.2符号表示

3.2无监督学习

无监督学习是指从五标注数据中学习预测模型的机器学习问题，其本质是学习数据中的统计规律或潜在结构。

监督学习与无监督学习对比

3.2.1相关概念

学习参考链接：1.2 统计学习的基本分类——无监督学习和强化学习_哔哩哔哩_bilibilihttps://www.bilibili.com/video/BV1No4y1o7ac?spm_id_from=333.788.player.switch&vd_source=90c4af5a77af61e3c51cdb5f018cca32&p=3