当前位置：首页 > wzjs >正文

建设市民中心网站秦皇岛网站建设哪家好

wzjs 2025/8/30 17:59:01

建设市民中心网站,秦皇岛网站建设哪家好,王也动漫,企业网站趋势贝叶斯分类是一种统计学分类方法，基于贝叶斯定理，对给定的数据集进行分类。它的历史可以追溯到18世纪，当时英国统计学家托马斯贝叶斯发展了贝叶斯定理，这个定理为统计决策提供了理论基础。不过，贝叶斯分类在实际应用…

贝叶斯分类是一种统计学分类方法，基于贝叶斯定理，对给定的数据集进行分类。
它的历史可以追溯到18世纪，当时英国统计学家托马斯·贝叶斯发展了贝叶斯定理，这个定理为统计决策提供了理论基础。

不过，贝叶斯分类在实际应用中的广泛使用是在20世纪80年代，当时计算机技术的进步使得大规模数据处理成为可能。

1. 算法概述

贝叶斯分类基于贝叶斯公式，通过已知样本信息来计算未知样本属于各个类别的概率，然后选择概率最大的类别作为未知样本的分类结果。

贝叶斯公式的简化公式：P(A|B)=P(B|A)P(A)P(B)P(A|B)=P(B|A)P(A)P(B)
其中：

P(A)P(A)：事件A发生的概率
P(B)P(B)：事件B发生的概率
P(A|B)P(A|B)：在事件B出现的前提下，A发生的概率
P(B|A)P(B|A)：在事件A出现的前提下，B发生的概率

贝叶斯分类就是基于这个公式扩展而来。
比如，一个具有nn个特征的样本x=(x1,x2,...,xn)x=(x1,x2,...,xn)，该样本属于K个可能的类别y1,y2,...,yky1,y2,...,yk。
那么，任一个样本xx属于某个类别ykyk的概率为：P(yk|x)=P(X|yk)P(yk)P(x)P(yk|x)=P(X|yk)P(yk)P(x)
根据这个模型，训练样本之后，就可以根据模型来预测某个样本属于哪个类别的概率最大。

这里讨论的贝叶斯分类算法，并没有考虑特征之间的关联关系，我们假设每个特征之间是相互独立的。
所以，这个算法也叫做朴素贝叶斯分类。

2. 创建样本数据

贝叶斯分类可以
这次用scikit-learn中的样本生成器make_classification来生成分类用的样本数据。

import matplotlib.pyplot as plt
from sklearn.datasets import make_classification# 分类数据的样本生成器
X, y= make_classification(n_samples=1000, n_classes=4, n_informative=3)
plt.scatter(X[:, 0], X[:, 1], marker="o", c=y, s=25)plt.show()

关于样本生成器的详细内容，请参考：TODO

3. 模型训练

训练之前，为了减少算法误差，先对数据进行标准化处理（将数据缩放到0~100之间）。

from sklearn import preprocessing as pp# 数据标准化
X = pp.minmax_scale(X, feature_range=(1, 100))
y = pp.minmax_scale(y, feature_range=(1, 100))

然后，分割训练集和测试集。

from sklearn.model_selection import train_test_split# 分割训练集和测试集
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2)

按照8:2的比例来划分训练集和测试集。

scikit-learn中的朴素贝叶斯算法支持多种不同的分类器，
这些分类器基于不同的先验概率分布，适用于不同的数据类型和问题场景。
我们训练模型的时候要根据数据情况选择合适的分类器。

from sklearn.naive_bayes import (GaussianNB,MultinomialNB,ComplementNB,BernoulliNB,CategoricalNB,
)reg_names = ["高斯朴素贝叶斯","多项式朴素贝叶斯","补码朴素贝叶斯","伯努利朴素贝叶斯","分类朴素贝叶斯",
]# 定义
regs = [GaussianNB(),MultinomialNB(),ComplementNB(),BernoulliNB(),CategoricalNB(min_categories=101),
]# 训练模型
for reg in regs:reg.fit(X_train, y_train)

各个分类器的简要说明：

GaussianNB：基于高斯分布的朴素贝叶斯分类器。它假设每个特征服从高斯分布，即正态分布。这种分类器适用于连续型数据，特别是对于数值型特征。
MultinomialNB：基于多项式分布的朴素贝叶斯分类器。它假设每个特征服从多项式分布，适用于离散型数据，特别是对于类别型特征。
ComplementNB：基于互补分布的朴素贝叶斯分类器。它适用于离散型数据，特别是对于二元分类问题。
BernoulliNB：基于伯努利分布的朴素贝叶斯分类器。它适用于二元分类问题，特别是对于二元特征或者二元输出。
CategoricalNB：基于分类分布的朴素贝叶斯分类器。它适用于离散型数据，特别是对于类别型特征。

最后验证各个分类器的模型的训练效果：

# 在测试集上进行预测
y_preds = []
for reg in regs:y_pred = reg.predict(X_test)y_preds.append(y_pred)for i in range(len(y_preds)):correct_pred = np.sum(y_preds[i] == y_test)print("【{}】 预测正确率：{:.2f}%".format(reg_names[i],correct_pred / len(y_pred) * 100))# 运行结果
【高斯朴素贝叶斯】 预测正确率：82.50%
【多项式朴素贝叶斯】 预测正确率：75.00%
【补码朴素贝叶斯】 预测正确率：72.50%
【伯努利朴素贝叶斯】 预测正确率：22.00%
【分类朴素贝叶斯】 预测正确率：50.50%

这里虽然高斯朴素贝叶斯分类器的正确率最高，但不能就认为这种分类器是最好的。
只能说明高斯朴素贝叶斯分类器最适合分类上面随机生成的样本数据。
换成其他的样本数据，高斯朴素贝叶斯分类器的正确率就不一定是最高的了。