基于多头注意力机制的残差网络深度学习推荐模型
张圆梦1
李少波2
周鹏3
杨明宝1
1.贵州大学计算机与科学技术学院 贵阳 5500252.贵州大学贵州省公共大数据国家重点实验室 贵阳 5500253.贵州大学机械工程学院 贵阳 550025
摘要：深度学习由于其强大的特征表达能力,在推荐研究领域的应用逐渐广泛.DIN(Deep Interest Network)是一种基于注意力机制和用户兴趣进行推荐的深度学习模型,针对其存在的特征训练完备性较低、推荐精度有待提高的问题,提出一种基于DIN改进的融合多头注意力模块与残差网络的深度学习推荐模型:MHAR-DIN(Multi-Head Attention Residual Deep Interest Network).利用多头注意力模块基于用户历史行为进行注意力的打分,充分考虑用户的兴趣偏好,并引入残差网络结构将特征越过训练直接接入全连接器,解决过深网络难以训练的问题.在公开数据集MovieLens上与经典深度学习推荐模型的对比实验表明,所提MHAR-DIN模型具有一定有效性和可行性.
关键词：多头注意力机制残差网络推荐算法DIN深度学习
分类号：O141.4(数理逻辑、数学基础)
论文发表日期：2024-07-20
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：5( 1955-1958,1965 )
英文信息