基于改进TextCNN短文本分类方法研究
董晨
安徽理工大学电气与信息工程学院 安徽淮南 232001
摘要:原始TextCNN深度神经网络模型在短文本分类过程中,首先将Embedding经过卷积后直接使用最大池化操作将词向量调整成1的长度,虽然保留了最显著的特征也会损失掉一部分信息.针对直接使用maxpool造成的信息丢失问题,首先利用全局注意力机制对词向量中的每个元素进行权重赋值,从而突出显著特征抑制无用特征.继而融合了平均池化和最大池化操作,使用MLP层进一步提取平均池化和最大池化产生的特征,提升特征的全局表示能力.最后通过两者相加,融合平均池化和最大池化产生的特征,并经过softsign激活后得到最终的词向量表示特征.所提出的方法在精确率、准确率、召回率、和F1值上均有所提升,其值分别是0.9145、0.9140、0.9129和0.9131,优于原始TextCNN、TextRNN、DPCNN,能在短文本分类中较好的识别.
关键词:TextCNN短文本分类词向量全局注意力机制MLP
论文发表日期:2022-07-28
在线出版日期:2026-05-22(本平台首次上网日期,不代表文献的发表时间)
页数:4( 47-49,57 )
