联邦学习中的隐私研究

当今的AI仍然面临两个主要挑战:

  • 一是在大多数行业中,数据以孤立的孤岛形式存在。
  • 另一个是加强数据隐私和安全性。

我们为这些挑战提出了一种可能的解决方案:安全的联邦学习

联邦学习是一种新兴的机器学习方案。与传统的集中式机器学习不同,联邦学习通过将训练任务下放到用户侧,仅将训练得到的模型参数结果发送给服务端,从而使数据保持在用户本地,保证了用户数据的隐私。此外,通过引入更多的用户参与,联邦学习可以整体上拓展训练数据集,从而提升总体模型的质量。由于联邦学习具有分布式、本地计算等特征,与区块链所具有的去中心化、分布式计算等特征有诸多相似之处,因此更适合与区块链相融合。此外,边缘计算与物联网技术的发展,也为联邦学习与区块链相融合在无线网络场景中的部署奠定了基础。然而,新技术的出现往往是一把“双刃剑”,联邦学习也不例外。联邦学习面临着一些挑战。

  • 首先是通信负载。联邦学习需要将迭代的传输训练参数上传至服务器,参与用户数目以及训练迭代数的增加,会带来大量的链路传输开销。
  • 其次是参与用户的互信问题。由于联邦学习的参与方来自不同的组织或机构,彼此之间缺少信任。如何在缺乏互信的场景下建立安全可靠的协作机制,是实际应用中亟待解决的问题。
  • 此外,联邦学习也面临一些安全风险。一方面,参与方所提供的参数缺乏相应的质量验证机制。恶意的参与用户可能会提供虚假的模型参数来破坏学习过程。如果这些虚假参数未经验证便聚合到整体模型中,会直接影响整体模型的质量,甚至会导致整个联邦学习过程失效。另一方面,参数在传输以及存储过程中的隐私性需要进一步保护加强。近期的一些研究表明,恶意的用户可以依据联邦学习梯度参数在每一轮中的差异,通过调整其输人数据逼近真实梯度,从而推测出用户的敏感数据。除了上述问题,联邦学习中参与用户的异构性、模型参数的聚合算法、用户通信链路的可靠性等,都值得进一步深入研究。

4.激励机制。 联盟学习之间的不同组织,需要建立一个公平的平台和激励机制。建立模型后,模型的性能将在实际应用中得到体现。 这个性能可以通过永久数据记录机制(例如区块链)进行记录。提供更多数据的组织会更好,而模型的有效性取决于数据提供商对系统的贡献。 这些模型的有效性被分配给各方基于联合机制,并继续激励更多组织加入数据联合。


Applications

作为一种创新的建模机制,它可以在不损害数据保密性和安全性的情况下,针对多方数据训练统一模型,因此联邦学习在销售,金融和许多其他行业中很有希望,因为这些行业中的数据无法直接汇总用于训练 由于诸如知识产权,隐私保护和数据安全之类的因素而导致的机器学习模型。

以智能零售为例。其目的是使用机器学习技术为客户提供个性化服务,主要包括产品推荐和销售服务。智能零售业务涉及的数据特征主要包括用户购买力,用户个人喜好和产品特征。在实际应用中,这三个数据特征可能分散在三个不同的部门或企业中。例如,用户的购买力可以从她的银行存款中推断出来,而她的个人喜好可以从她的社交网络中分析出来,而产品的特征则由电子商店记录下来。在这种情况下,我们面临两个问题。首先,为了保护数据隐私和数据安全,很难打破银行,社交网站和电子购物网站之间的数据障碍。结果,数据不能直接聚合以训练模型。其次,存储在三方中的数据通常是异构的,并且传统的机器学习模型无法直接在异构数据上工作。目前,这些问题尚未通过传统的机器学习方法得到有效解决,这阻碍了人工智能在更多领域的普及和应用。

联邦学习和迁移学习是解决这些问题的关键。首先,通过利用联邦学习的特征,我们可以为三方构建机器学习模型而无需导出企业数据,不仅可以充分保护数据隐私和数据安全,还可以为客户提供个性化和针对性的服务,从而实现互惠互利。同时,我们可以利用转移学习来解决数据异质性问题,并突破传统人工智能技术的局限性。因此,联邦学习为我们构建大数据,人工智能的跨企业,跨数据和跨域生态圈提供了良好的技术支持。

可以使用联邦学习框架进行多方数据库查询而无需公开数据。例如,假设在金融应用程序中,我们有兴趣检测多方借款,这是银行业的主要风险因素。当某些用户恶意从一家银行借款以支付另一家银行的贷款时,就会发生这种情况。多方借款对金融稳定构成威胁,因为大量此类违法行为可能导致整个金融体系崩溃。为了找到这样的用户而不会在银行A和银行B之间彼此暴露用户列表,我们可以利用联邦学习框架。特别是,我们可以使用联邦学习的加密机制,对各方的用户列表进行加密,然后在联合身份验证中获取加密列表的交集。最终结果的解密给出了多方借款人的列表,而没有将其他“好”用户暴露给另一方。正如我们将在下面看到的,此操作对应于垂直联邦学习框架。

智能医疗保健是我们预计将受益于联邦学习技术的兴起的另一个领域。诸如疾病症状,基因序列,医学报告之类的医学数据非常敏感和私密,但是医学数据很难收集,并且存在于孤立的医学中心和医院中。数据源不足和标签不足导致机器学习模型的性能不尽人意,这成为当前智能医疗保健的瓶颈。我们设想,如果所有医疗机构联合起来并共享其数据以形成一个大型医疗数据集,那么在该大型医疗数据集上训练的机器学习模型的性能将得到显着提高。联邦学习与迁移学习相结合是实现此愿景的主要方法。可以应用转移学习来填补缺失的标签,从而扩大可用数据的规模,并进一步提高训练模型的性能。因此,联邦迁移学习将在智能医疗保健的发展中发挥关键作用,并且可能将人类保健提升到一个全新的水平.

相关链接:
1.https://zhuanlan.zhihu.com/p/127319831
2.https://www.zhihu.com/question/329518273
3.https://www.zuozuovera.com/archives/1565/
4.https://zhuanlan.zhihu.com/p/88886843(对抗攻击简介)
5.https://www.jiqizhixin.com/articles/2018-03-05-4(对抗攻击的12种攻击方法和15种防御方法)
6.https://mp.weixin.qq.com/s?__biz=MzA3MzI4MjgzMw==&mid=2650738224&idx=1&sn=dd3a9bc5b71cdc23bf92fd8816fd68f0&chksm=871aca4eb06d43585821885b7a769b7d2f9b07fbdabbfc4852c77355102af645fcff53c382c0&scene=21#wechat_redirect(Goodfellow等人提出新一代对抗样本)
7.https://zhuanlan.zhihu.com/p/33562407(ICLR 2018七篇对抗样本防御论文被新研究攻破)
8.https://www.zybuluo.com/wuxin1994/note/888889 (发现的新大陆)

posted on 2020-04-19 20:00  20189223  阅读(1286)  评论(4编辑  收藏

导航