基于集成知识蒸馏的肺病分析
李坚强
王成
黄志超
陈杰
1.深圳大学计算机与软件学院,广东深圳5180602.深圳大学计算机与软件学院,广东深圳5180603.深圳大学计算机与软件学院,广东深圳5180604.深圳大学计算机与软件学院,广东深圳518060
摘要：新冠肺炎以来,肺部疾病引起了人们更大的关注.肺音的特征与诊断是肺病理学中重要的组成部分.现有的肺音分析工作主要是对肺音的类型进行分类,分类肺病的研究较少.另外,单个分类模型无法在保护隐私的前提下融合多方数据,复杂的模型也难以保证分类的实时性.针对这些问题,本文提出集成知识蒸馏的肺疾病分类模型.首先从肺音音频中提取梅尔频谱特征,然后建立多个二分类卷积神经网络模型作为教师模型,最后通过集成知识蒸馏技术,将多个教师模型的知识集成到一个精简的多分类学生模型上.实验表明,该模型能够在预测准确率达95％的情况下,参数量比教师模型减少79％,预测速度提升20％.在同等条件下,时耗仅有MobileNet–v3–small模型的6％,实现实时性肺疾病分析.
关键词：肺疾病卷积神经网络集成知识蒸馏教师模型学生模型
资助基金：国家自然科学基金(U1713212)国家自然科学基金(61836005)国家自然科学基金(61702341)广东省杰出青年基金(2019B151502018)深圳市技术研究基金项目(JSGG201805-07182904693)深圳市公共技术平台基金项目(GGFW2018021118145859)
论文发表日期：2021-01-28
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：7( 130-136 )
英文信息