基于深度特征蒸馏的人脸识别
葛仕明1
赵胜伟1
刘文瑜2
李晨钰1
1.中国科学院信息工程研究所,北京 100095;中国科学院大学 网络空间安全学院,北京 1000192.北京大学 软件与微电子学院,北京,102600
摘要：在人脸识别系统中,深度学习由于强大的表征能力被广泛应用,但模型推理的高计算复杂度和特征表示的高维度分别降低了特征提取和特征检索的效率,阻碍了人脸识别系统的实际部署.为了克服这两个问题,本文提出一种基于深度特征蒸馏的人脸识别方法,该方法通过多任务学习实现大深度模型知识与领域相关数据信息的蒸馏,从而统一地压缩深度网络参数及特征维度.联合特征回归与人脸分类,以预训练的大网络为教师网络,指导小网络训练,将知识迁移得到轻量级的学生网络,实现了高效的特征提取.在LFW人脸识别数据集上进行了实验,学生模型在识别精度相比教师模型下降3.7％的情况下,模型参数压缩到约2×107、特征维度降到128维,相比教师模型分别获得了7.1倍的参数约减、32倍的特征降维及95.1％的推理复杂度下降,表明了方法的有效性和高效性.
关键词：深度学习特征表示知识蒸馏模型压缩人脸识别
分类号：TP183(自动化基础理论)
论文发表日期：2017-01-01
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：8( 27-33,41 )
英文信息