基于RoBERTa-WWM的多特征情感分析模型
张宏伟
李晓晔
齐齐哈尔大学计算机与控制工程学院 黑龙江齐齐哈尔 161000
摘要：针对传统词向量模型无法有效解决多义词表征、经典网络模型存在文本特征提取不足和无法捕捉特征的关键信息等问题,提出了一种基于RoBERTa-WWM的多特征情感分析模型.首先采用RoBERTa-WWM模型动态生成词向量,解决了多义词表征问题,丰富了语义特征;接着将多个BIGRU进行堆叠形成Multi-Layer BIGRU,并与TextCNN结合提取局部和全局特征,让模型从不同角度学习语义特征;最后通过多头注意力机制,将局部和全局特征进行融合赋予不同的权重,以突出关键信息和文本的情感极性.在酒店评论数据集和商品评论数据集上进行了实验,结果显示,所提出的模型与其他模型相比,准确率和F1 值都有显著提升.
关键词：情感分析RoBERTa-WWM卷积神经网络多层双向门控循环单元多头注意力机制
资助基金：黑龙江省省属高等学校基本科研业务费科研项目(145209124)
论文发表日期：2024-05-28
在线出版日期：2026-05-22（本平台首次上网日期，不代表文献的发表时间）
页数：6( 40-45 )