python文本分类模型_下载 | 最全中文文本分类模型库,上手即用

原标题:下载 | 最全中文文本分类模型库,上手即用

本文转自『大数据文摘』

如何选择合适的模型上手进行中文文本分类呢?

别慌,福利来了,GitHub上一位名为“huwenxing”(胡文星)的用户上传了一个项目,里面包含了7个基于Pytorch的文本分类模型,并提供了一个样本数据集,这对新手党来说,简直不要太方便!

GitHub链接:

https://github.com/649453932/Chinese-Text-Classification-Pytorch

项目中,作者对7个模型都进行了训练和测试,最终得出了一个效果的对比列表,可以让大家更快的使用各种模型来搭建baseline,也能很快的对各个模型在该任务上的表现有大概了解,之后决定用哪个模型。

数据集

作者从THUCNews中抽取了20万条新闻标题,文本长度在20到30之间。一共10个类别,每类2万条。类别是:财经、房产、股票、教育、科技、社会、时政、体育、游戏、娱乐。

其中,作者用了18万条作为训练集,一万作为验证集,一万作为测试集。

预训练词向量下载:

https://pan.baidu.com/s/14k-9jsspp43ZhMxqPmsWMQ

而如果要替换自己的数据集的话:

如果用字,按照我数据集的格式来格式化你的数据。

如果用词,提前分好词,词之间用空格隔开,python run.py --model TextCNN --word True

使用预训练词向量:utils.py的main函数可以提取词表对应的预训练词向量。

模型效果

作者主要测试了TextCNN,TextRNN,FastText,TextRCNN,BiLSTM_Attention, DPCNN, Transformer,这七个文本分类模型。

得出的结果如下:

这七个模型都放在了项目的“models”文件夹中:

直接按以下代码调用即可:

# 训练并测试:# TextCNNpython run.py --model TextCNN

# TextRNNpython run.py --model TextRNN

# TextRNN_Attpython run.py --model TextRNN_Att

# TextRCNNpython run.py --model TextRCNN

# FastText, embedding层是随机初始化的python run.py --model FastText --embedding random

# DPCNNpython run.py --model DPCNN

# Transformerpython run.py --model Transformer

如此方便的模型库在此,还不赶紧上手试试?返回搜狐,查看更多

责任编辑:


本文来自互联网用户投稿,文章观点仅代表作者本人,不代表本站立场,不承担相关法律责任。如若转载,请注明出处。 如若内容造成侵权/违法违规/事实不符,请点击【内容举报】进行投诉反馈!

相关文章

立即
投稿

微信公众账号

微信扫一扫加关注

返回
顶部