快速入门Python机器学习（12）

顾翔

发布于 2022-09-23 19:59:16

2510

发布于 2022-09-23 19:59:16

文章被收录于专栏：啄木鸟软件测试

7.5 多项式贝叶斯(MultinomialNB)

7.5.1 属性与方法

类

class sklearn.naive_bayes.MultinomialNB(*, alpha=1.0, fit_prior=True, class_prior=None)

属性

属性	解释
class_count_	ndarray of shape (n_classes,)拟合期间遇到的每个类的样本数。当提供时，该值由样本重量加权。
class_log_prior_	ndarray of shape (n_classes, )平滑的经验对数概率为每一类。
classes_	ndarray of shape (n_classes,)分类器已知的类标签。
coef_	ndarray of shape (n_classes, n_features)镜像的特点是把多项式解释为线性模型。
feature_count_	ndarray of shape (n_classes, n_features)拟合期间每个（类、特征）遇到的样本数。
feature_log_prob_	ndarray of shape (n_classes, n_features)当提供时，该值由样本重量加权。给定一类特征的经验对数概率P（x\|i\|y）。
intercept_	ndarray of shape (n_classes,)镜像类logprior，用于将多项式nb解释为线性模型。
n_features_	n_features_int每个样本的特征数

方法

fit(X, y[, sample_weight])	根据X，y拟合多项式朴素贝叶斯
get_params([deep])	获取此估计器的参数。
partial_fit(X, y[, classes, sample_weight])	对一批样品进行增量拟合。
predict(X)	对测试向量X的数组执行分类。
predict_log_proba(X)	测试向量X的返回对数概率估计。
predict_proba(X)	测试向量X的返回概率估计。
score(X, y[, sample_weight])	返回给定测试数据和标签的平均精度。
set_params(**params)	设置此估计器的参数。

7.5.2多项式贝叶斯拟合make_blobs数据

def multinomialNB_for_make_blobs():
       myutil = util()
       X,y = make_blobs(n_samples=500,random_state=8,centers=8)
       X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=8)
       scaler = MinMaxScaler()
       scaler.fit(X_train)
       X_train = scaler.transform(X_train)
       X_test = scaler.transform(X_test)
       nb = MultinomialNB()
       nb.fit(X_train,y_train)
       title = "多项式贝叶斯 make_blobs"
       myutil.draw_scatter(X,y,nb,title)
       myutil.print_scores(nb,X_train,y_train,X_test,y_test,title)
       myutil.plot_learning_curve(MultinomialNB(),X,y,title)
       myutil.show_pic(title)

输出

多项式贝叶斯 make_blobs:
13.33%
多项式贝叶斯 make_blobs:
9.60%

由此可见，多项式贝叶斯拟合make_blobs数据是非常差的。

7.5.3 多项式贝叶斯拟合鸢尾花数据

def multinomialNB_for_iris():
       warnings.filterwarnings("ignore")
       myutil = util()
       X,y = datasets.load_iris().data,datasets.load_iris().target
       X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=8)
       scaler = MinMaxScaler()
       scaler.fit(X_train)
       X_train = scaler.transform(X_train)
       X_test = scaler.transform(X_test)
       nb = MultinomialNB()
       nb.fit(X_train,y_train)
       title = "多项式贝叶斯 鸢尾花"
       myutil.print_scores(nb,X_train,y_train,X_test,y_test,title)
       myutil.plot_learning_curve(MultinomialNB(),X,y,title)
       myutil.show_pic(title)

输出

多项式贝叶斯 鸢尾花:
66.07%
多项式贝叶斯 鸢尾花:
65.79%

多项式贝叶斯拟合鸢尾花数据刚刚及格，不是很好。

7.5.4多项式贝叶斯拟合红酒数据

def multinomialNB_for_wine():
       warnings.filterwarnings("ignore")
       myutil = util()
       X,y = datasets.load_wine().data,datasets.load_wine().target
       X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=8)
       scaler = MinMaxScaler()
       scaler.fit(X_train)
       X_train = scaler.transform(X_train)
       X_test = scaler.transform(X_test)
       nb = MultinomialNB()
       nb.fit(X_train,y_train)
       title = "多项式贝叶斯 红酒"
       myutil.print_scores(nb,X_train,y_train,X_test,y_test,title)
       myutil.plot_learning_curve(MultinomialNB(),X,y,title)
       myutil.show_pic(title)

输出

多项式贝叶斯 红酒:
96.24%
多项式贝叶斯 红酒:
91.11%

多项式贝叶斯拟合红酒数据刚还是不错的。

7.5.5多项式贝叶斯拟合乳腺癌数据

def multinomialNB_for_breast_cancer():
       warnings.filterwarnings("ignore")
       myutil = util()
       X,y = datasets.load_breast_cancer().data,datasets.load_breast_cancer().target
       X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=8)
       scaler = MinMaxScaler()
       scaler.fit(X_train)
       X_train = scaler.transform(X_train)
       X_test = scaler.transform(X_test)
       nb = MultinomialNB()
       nb.fit(X_train,y_train)
       title = "多项式贝叶斯 乳腺癌"
       myutil.print_scores(nb,X_train,y_train,X_test,y_test,title)
       myutil.plot_learning_curve(MultinomialNB(),X,y,title)
       myutil.show_pic(title)

输出

多项式贝叶斯 乳腺癌:
84.27%
多项式贝叶斯 乳腺癌:
81.12%

多项式贝叶斯拟合乳腺癌数据还可以。

7.6 总结

7.6.1三个贝叶斯之间进行比较

算法	鸢尾花	红酒	乳腺癌
贝努利贝叶斯	33.04%/34.21%	41.35%/35.56%	63.85%/59.44%
高斯贝叶斯	98.21%/89.47%	99.25%/97.78%	94.37%/93.71%
多项式贝叶斯	66.07%/65.79%	96.24%/91.11%	84.27%/81.12%

看来，对三组数据高斯贝叶斯算法在三个数据中最好，我们让他与以前学习过的分类算法做个比较。

7.6.2与其他分类算法进行比较

算法	鸢尾花	红酒	乳腺癌
高斯贝叶斯	98.21%/89.47%	99.25%/97.78%	94.37%/93.71%
逻辑回归	96.67%/100.00%	100.00%/94.44%	94.95%/97.37%
K邻近分类算法	97.50%/96.67%	77.46%/72.22%	94.07%/95.61%