一种适用于轻量级网络的双分支融合注意力机制
邓宇晗
阳富民
袁凌
胡贯荣
华中科技大学计算机科学与技术学院 武汉 430074
摘要：注意力机制越来越受到关注,许多研究已经分别证明了通道注意力和空间注意力对于提升模型性能的有效性,但现有算法通常忽略了如何将这两种信息更好地结合起来.对此,通过将通道注意力、空间注意力和全局提取的特征信息有效结合,提出了一种新的移动网络注意力机制,称之为双分支融合注意力机制,并将双分支融合注意力机制应用到轻量级网络上进行实验.实验结果表明,引入双分支融合注意力机制的模型在CIFAR-100和ImageNet-100数据集上的准确率相较于原始模型均有明显提升,且浮点计算量和参数量并未显著增加.
关键词：轻量级网络注意力机制双分支融合
分类号：O141.4(数理逻辑、数学基础)
资助基金：国家自然科学基金(62272180)
论文发表日期：2023-12-20
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：6( 2831-2835,3027 )
英文信息