异步联邦学习中隔代模型泄露攻击及防治方法
胡智尧
于淼
田开元
军事科学院战争研究院,北京,100091
摘要：联邦学习已成为数据孤岛背景下知识共享的成功方案.随着梯度逆向推理等新式攻击手段的问世,联邦学习的安全性再度面临新挑战.针对联邦学习可能存在参与者恶意窃取其它客户端梯度信息的风险,提出一种异步联邦学习框架下的隔代模型泄露攻击方式:利用中心服务器"接收则聚合"的特点,多名恶意客户端可按照特定更新顺序,通过隔代版本的全局模型差异逆向计算其他客户端的模型更新数据,从而窃取对方的模型.针对此问题,提出基于a-滑动平均的随机聚合算法.首先,中心服务器每次收到客户端的模型更新后,将其与从最近a次聚合中随机选出的全局模型进行聚合,打乱客户端的更新顺序;其次,随着全局迭代次数增加,中心服务器对最近a次聚合的全局模型进行滑动平均,计算出最终全局模型.实验结果表明,与异步联邦学习方法相比,FedAlpha方法有效降低隔代模型泄露攻击的可能性.
关键词：异步联邦学习安全逆向推理攻击随机聚合滑动平均隔代模型泄露攻击
分类号：TP391.9(计算技术、计算机技术)
资助基金：国家自然科学基金(62202491)国家自然科学基金(62402519)
论文发表日期：2024-10-25
在线出版日期：2025-08-15（本平台首次上网日期，不代表文献的发表时间）
页数：7( 121-127 )
英文信息