基于多头自注意力和并行混合模型的文本情感分析
李辉1
黄钰杰2
1.河南理工大学物理与电子信息学院,河南焦作4540002.河南理工大学电气工程与自动化学院,河南焦作454000
摘要：针对以往研究大多使用单一模型进行文本情感分析,导致无法很好地捕捉相关文本的情感特征,从而造成情感分析效果不理想的问题,提出一种基于多头自注意力和并行混合模型的文本情感分析方法.首先,利用Word2vec模型捕捉单词的语义特征,训练词向量;其次,借助双层多头自注意力机制(double layer multi-head self-attention,DLMA)学习文本内部的词依赖关系,捕获其内部结构特征;再次,使用并行的双向门限循环神经网络(bi-directional gated re-current nnit,BiGRU)获取文本的序列特征;最后,借助改进的并行卷积神经网络(convolutional neural network,CNN)提取深层次特征信息.将该模型分别在2个数据集上进行实验验证,其准确率分别达到92.71％和91.08％.结果 表明,该方法比其他模型具有更好的学习能力.
关键词：多头自注意力双向门限循环神经网络卷积神经网络文本情感分析
分类号：TP391.1(计算技术、计算机技术)
资助基金：河南省基础与前沿技术研究计划(152300410103)
论文发表日期：2021-02-28
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：8( 125-132 )
英文信息