基于领域BERT模型的服务文本分类方法
闫云飞
孙鹏
张杰勇
马钰棠
赵亮
空军工程大学信息与导航学院,西安,710077
摘要：针对BERT模型领域适应能力较差,无法解决训练数据类别数量不均衡和分类难易不均衡等问题,提出一种基于WBBI模型的服务文本分类方法.首先通过TF-IDF算法提取领域语料中的词汇扩展BERT词表,提升了BERT模型的领域适应性;其次,通过建立的BERT-BiLSTM模型实现服务文本分类;最后,针对数据集的类别数量不均衡和分类难易不均衡问题,在传统焦点损失函数的基础上提出了一种可以根据样本不均衡性特点动态调整的变焦损失函数.为了验证WBBI模型的性能,在互联网获取的真实数据集上进行了大量对比试验,实验结果表明:WBBI模型与通用文本分类模型TextCNN、BiLSTM-attention、RCNN、Transformer相比Macro-F1值分别提高了4.29％、6.59％、5.3％和43％;与基于BERT的文本分类模型BERT-CNN、BERT-DPCNN相比,WBBI模型具有更快的收敛速度和更好的分类效果.
关键词：服务分类文本分类BERT模型双向长短时记忆网络(BiLSTM)焦点损失函数
分类号：TP391(计算技术、计算机技术)
论文发表日期：2023-02-25
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：9( 103-111 )
英文信息