基于MMD双模块参数迁移的文本情感分析研究
王鹏德
张泾周
1.航空工业西安航空计算技术研究所 陕西西安 7100682.西北工业大学自动化学院 陕西西安 710000
摘要：基于数据驱动的深度学习模型,需要大量的标注数据进行训练,数据的标注需要花费大量资源.迁移学习可将先验知识转移到相邻领域,可降低标注数据稀少情况下模型训练的难度.为提高迁移学习模型分类准确率,在基于参数迁移学习策略的双向LSTM和Attention机制联合模型基础上,提出了一种预训练模型和微调模型相结合的双模块改进策略,通过将预训练模型参数固定,仅调整微调模型的中间层,实现参数的迁移,然后将训练模型和微调模型输出层之间的最大平均差异(maximize mean discrepancy,MMD)值加入损失函数,提高了迁移学习的能力,降低了对标注数据的依赖.
关键词：细粒度情感分析循环神经网络注意力机制参数迁移深度学习MMD
论文发表日期：2022-04-28
在线出版日期：2026-05-22（本平台首次上网日期，不代表文献的发表时间）
页数：4( 65-68 )