基于混合注意力的布朗距离协方差小样本图像分类算法
包春梅1
王前1
陈望1
李志玲1
王彬1
王林2
1.贵州民族大学数据科学与信息工程学院,贵阳 550025;贵州省模式识别与智能系统重点实验室,贵阳 5500252.贵州省模式识别与智能系统重点实验室,贵阳 550025
摘要：针对小样本图像分类中主干卷积神经网络所提取特征缺乏关联性,以及在将其表示为布朗距离协方差(Brownian distance covariance,BDC)矩阵时易出现通道特征信息丢失的问题,提出了基于混合注意力的布朗距离协方差(hybrid attention-Brownian distance covariance,HA-BDC)小样本图像分类算法.该算法首先在主干卷积神经网络中引入加权的非局部注意力机制来增强特征提取能力,然后采用跨空间学习的高效多尺度注意力模块重塑嵌入特征,使得新的特征张量能够保留每个通道上的信息.再用BDC度量模块将新的特征张量表示为BDC矩阵,并通过全连接层得到BDC矩阵的权重矩阵,最后采用逻辑回归模型进行分类.在大规模视觉识别挑战的子数据集(mini ImageNet large scale visual recognition challenge,miniImageNet)和分层大规模视觉挑战的子数据集(tiered ImageNet large scale visual recognition challenge,tieredImageNet)上进行分类实验,结果表明,HA-BDC算法相较于简单迁移学习深度布朗协方差(simple transfer learning deep Brownian distance covariance,STL DeepBDC)算法在 5-类别 1-样本任务中的分类准确率分别提升了 2.83％和0.77％.该研究能有效应用于数据量较小的濒危动物识别、罕见疾病识别等领域.
关键词：机器学习小样本学习度量学习布朗距离协方差混合注意力机制特征重塑
分类号：TP391.4(计算技术、计算机技术)
资助基金：贵州省科技计划项目(ZCKJ(2021)007)贵州省模式识别与智能系统重点实验室开放课题(GZMUKL(2022)KF01)贵州省模式识别与智能系统重点实验室开放课题(GZMUKL(2022)KF05)贵州民族大学基金科研项目(GZMUZK(2023)YB14)
论文发表日期：2024-12-20
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：7( 521-527 )
英文信息