2021年12月14日

摘要: 我们证明了训练具有用户级差异隐私保证的大型递归语言模型是可能的,并且在预测准确性方面的成本可以忽略不计。我们的工作建立在深度网络训练的最新进展基础上,即用户分区数据和考虑随机梯度下降的隐私。特别是,我们将用户级隐私保护添加到联邦平均算法中,该算法从用户级数据进行“大步”更新。我们的工作表明,给定一个 阅读全文
posted @ 2021-12-14 12:11 Le2duo 阅读(148) 评论(0) 推荐(0)

导航