基于防御蒸馏和联邦学习的安全深度神经网络研究
肖林声
钱慎一
郑州轻工业大学 计算机与通信工程学院,郑州450002
摘要：联邦学习(federated learning,FL)由谷歌于2016年提出的多方协作的机器学习方案,而深度神经网络(deep neural network,DNN)算法已经被证明在联邦学习中拥有很好的效果.然而,最近的研究表明,和其他机器学习技术一样,DNN也容易受到对抗样本的攻击.这种攻击严重的威胁了DNN所支持的系统的安全性,有些情况下可能会带来灾难性的后果.将DNN与防御蒸馏和联邦学习相结合,来降低对抗样本在DNN中的作用并保护用户的隐私安全,并使用稀疏三元(sparse ternary compression,STC)算法来减少在联邦学习中训练的通信开销.实验表明,与不使用STC的方案相比,使用STC的该方案在保证系统和数据安全的情况下,极大地减小了通信开销.
关键词：联邦学习深度神经网络对抗样本稀疏三元通信开销
分类号：TP309(计算技术、计算机技术)
资助基金：国家自然科学基金(61672470)国家自然科学基金(61802350)国家重点研发计划(2016YFE0100600)国家重点研发计划(2016YFE0100300)
论文发表日期：2021-06-20
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：7( 168-174 )
英文信息