联邦学习安全与隐私保护综述

Affiliation of Author(s):计算机科学与技术学院/人工智能学院/软件学院

Journal:南京航空航天大学学报

Key Words:计算机系统结构;联邦学习;模型安全;隐私保护

Abstract:联邦学习是一种新型的分布式学习框架,它允许在多个参与者之间共享训练数据而不会泄露其数据隐私。但是这种新颖的学习机制仍然可能受到来自各种攻击者的前所未有的安全和隐私威胁。本文主要探讨联邦学习在安全和隐私方面面临的挑战。首先,本文介绍了联邦学习的基本概念和威胁模型,有助于理解其面临的攻击。其次,本文总结了由内部恶意实体发起的3种攻击类型,同时分析了联邦学习体系结构的安全漏洞和隐私漏洞。然后从差分隐私、同态密码系统和安全多方聚合等方面研究了目前最先进的防御方案。最后通过对这些解决方案的总结和比较,进一步讨论了该领域未来的发展方向。

Note:期:2020年05期;页:675-684

ISSN No.:1005-2615

Translation or Not:no

Date of Publication:2020-10-15

Date of Publication:2020-10-15