【三期胡宇】CCF-A(INFOCOM'19) Beyond Inferring Class Representatives: User-Level Privacy Leakage From Federated Learning

Wang, Zhibo, et al. "Beyond inferring class representatives: User-level privacy leakage from federated learning." IEEE INFOCOM 2019-IEEE Conference on Computer Communications. IEEE, 2019.——CCF-A(INFOCOM)

  在联邦学习中，模型是由客户端以分散的方式训练，这种学习机制大大降低了来自服务器端的攻击。结合了GANs的先进技术仍无法从特定客户端准确地恢复用户隐私数据。
  本文首次尝试从恶意服务器的角度来探索针对联邦学习的用户级隐私泄漏。 本文提出了一个将GAN与多任务判别器相结合的框架，该判别器同时区分了输入样本的类别，现实情况和客户身份。一方面，在训练GAN时执行其他任务可以提高合成样本的质量，而无需修改共享模型或损害联邦学习，从而实现了无形的攻击。 另一方面，区分客户端身份可以恢复客户端的隐私数据。mGAN-AI放宽了客户拥有互斥类标签的假设，从而实现了对联邦学习的更为通用的攻击。与现有的工作倾向于干扰联邦学习的训练过程不同，本文所提出的方法在服务器端“无形地”起作用。 实验结果证明了本文所提出的攻击方法的有效性，并且优于最新技术。
  本文优点：
  (1)本文立意新颖，首次从恶意服务器的角度来探索针对联邦学习的用户级隐私泄漏问题；
  (2)经过实验结果证明，本文提出的攻击方法比已有方法具有明显的优势。

2020年10月16日