NLP实战三：Pytorch实现FastText文本分类

NLP实战一：Pytorch实现TextCNN文本分类

NLP实战二：Pytorch实现TextRNN 、TextRNN+Attention文本分类

中文数据集

我从THUCNews中抽取了20万条新闻标题，已上传至github，文本长度在20到30之间。一共10个类别，每类2万条。

类别：财经、房产、股票、教育、科技、社会、时政、体育、游戏、娱乐。

数据集划分：

更换自己的数据集

• 如果用字，按照我数据集的格式来格式化你的数据。
• 如果用词，提前分好词，词之间用空格隔开，python run.py --model TextCNN --word True
• 使用预训练词向量：utils.py的main函数可以提取词表对应的预训练词向量。

数据集、词表及对应的预训练词向量，已经打包好，详见THUCNews文件夹。

效果

完整项目和数据集代码获取地址:

关注微信公众号 datayx 然后回复 NLP实战 即可获取。

Python环境及安装相应依赖包

• python 3.7以上
• pytorch 1.1 以上
• tqdm
• sklearn
• tensorboardX

FastText

原理图如下：

终端运行下面命令，进行训练和测试：

python run.py --model FastText

训练过程如下：

训练及测试结果如下：使用CPU版本pytorch，耗时1小时47分40秒，准确率92.07%