前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >朴素贝叶斯(Naive Bayes)实战:垃圾邮件过滤

朴素贝叶斯(Naive Bayes)实战:垃圾邮件过滤

作者头像
Cyril-KI
发布2022-07-29 19:44:38
5500
发布2022-07-29 19:44:38
举报
文章被收录于专栏:KI的算法杂记

训练集链接[1] 提取码:axpf

训练集(正常邮件)截图:

训练集里面正常邮件normal和垃圾邮件spam各有24封,利用这些数据训练出模型并对两份待分类邮件进行分类。邮件:

关于如何利用朴素贝叶斯进行分类,请参考:朴素贝叶斯“朴素”在哪里?

分类实现过程:

1.首先需要对每一封邮件进行切割处理,得到包含所有词语的列表。2.训练模型,利用贝叶斯公式计算出后验概率3.得到结果

完整代码:

代码语言:javascript
复制
#读取所有训练数据并按照空格分隔,保存在一个列表里返回
def load_file(path):
    cab=[]
    for i in range(1, 25):
        data=open(path %i)
        for line in data.readlines():
            cab.append(line.strip().split(','))
    cab_f=[]
    for i in range(len(cab)):
        for j in range(len(cab[i])):
            if cab[i][j]!='':
                cab_f.append(cab[i][j].strip())
    cab_final=[]
    for i in cab_f:
        for j in i.split(' '):
            cab_final.append(j)
    return cab_final

#朴素贝叶斯分类器
def bayes(test):
    path1='Emails/Training/normal/%d.txt'
    path2='Emails/Training/spam/%d.txt'
    normal_data=load_file(path1)
    spam_data=load_file(path2)
    # 计算p(x|C1)=p1与p(x|C2)=p2
    p1=1.0;p2=1.0
    for i in range(len(test)):
        x=0.0
        for j in normal_data:
            if test[i]==j:
                x=x+1.0
        p1=p1*((x+1.0)/(len(normal_data)+2.0))   #拉普拉斯平滑

    for i in range(len(test)):
        x=0.0
        for j in spam_data:
            if test[i]==j:
                x=x+1.0
        p2=p2*((x+1.0)/(len(spam_data)+2.0))   #拉普拉斯平滑

    pc1 = len(normal_data) / (len(normal_data)+len(spam_data))
    pc2 = 1 - pc1

    if p1*pc1>p2*pc2:
        return 'normal'
    else:
        return 'spam'


#测试
def test(path):
    data=open(path)
    cab=[]
    for line in data.readlines():
        cab.append(line.strip().split(','))
    cab_f = []
    for i in range(len(cab)):
        for j in range(len(cab[i])):
            if cab[i][j] != '':
                cab_f.append(cab[i][j].strip())
    cab_final = []
    for i in cab_f:
        for j in i.split(' '):
            cab_final.append(j)
    return bayes(cab_final)

if __name__=='__main__':
    print(test('Emails/test/normal.txt'))
    print(test('Emails/test/spam.txt'))
    sum1=0;sum2=0
    #再试试训练集
    for i in range(1,25):
        if test('Emails/Training/normal/%d.txt' %i)=='normal':
            sum1=sum1+1
    for i in range(1,25):
        if test('Emails/Training/spam/%d.txt' %i)== 'spam':
            sum2=sum2+1
    print('normal分类正确率:',sum1/24)
    print('spam分类正确率:', sum2/24)

运行结果:

代码语言:javascript
复制
normal 
spam 
normal分类正确率:0.9583333333333334 
spam分类正确率:1.0

References

[1] 训练集链接: https://pan.baidu.com/s/1VGQhDoeOhTcIFrWaWHLaXQ

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2021-11-08,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 KI的算法杂记 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • References
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档