将隐私增强技术映射到你的用例

假设你正在处理一个涉及敏感数据的新项目——例如，为医疗保健应用添加一个新功能。这个功能带来了你需要应对的新的隐私问题。也许你的律师对你正在构建的应用的合规性不太满意。也许你想向功能的用户做出强有力的声明，说明你将如何处理他们的数据。也许你担心敏感的用户数据可能以意想不到的方式泄露。你一直听说隐私技术的进展，你想知道：我是否应该研究其中一种技术来看看它是否能解决我的问题？

你来对地方了。在这篇博客文章中，我们将带你了解几个关键的数据处理用例，每个用例都涉及重大的隐私挑战。然后我们将各种隐私增强技术（PET）映射到这些用例。剧透警告，用例和 PET 的总体映射图将如下所示：

为了更好地理解这些挑战，我们将在讨论每个用例时明确对抗模型。这意味着回答两个问题：

• 谁可以访问原始的隐私敏感数据？
• 我们在防范谁；谁不能访问原始数据？

在每个图表中，我们将用 ✅ 标记可以访问数据的实体，用 ❌ 标记对手。

让我们逐一了解这些用例类别。

私有地收集数据

对于这个用例，你的目标是从应用的个人用户那里收集数据。例如，假设你想衡量用户群中与健康信息相关的一些指标。但有一个问题：你不想收集个人数据。相反，你希望能够告诉你的用户："我没有收集关于你的数据——我 فقط在学习关于大群用户的信息。"

对抗模型如下。

• 只有个人用户可以访问自己的原始数据。
• 你——收集数据的组织——不能看到单个数据点。

请注意，在上面的图表中，每个用户都可以访问自己的数据，但大概不能访问其他用户的数据。

在这种情况下，你还能了解有关聚合用户行为的信息吗？也许令人惊讶的是，答案是肯定的！有两种主要的隐私技术可以解决这个用例。

• 安全聚合 包括使用加密技术隐藏每个个体值。这些加密的数据点随后被组合以计算聚合结果。
• 本地差分隐私 包括为每个个体数据点添加随机噪声。这种噪声隐藏了每个人的数据……但组合许多数据点仍然可以揭示更大的趋势。

两种技术可以一起工作，并相互补充。本地差分隐私在输出上提供形式化保证，但以准确性的巨大代价为代价。但将其与安全聚合相结合可以避免大部分准确性代价，并在保持强保证的同时提升实用性。

联邦学习是这些技术的常见用例。通过这种机器学习技术，模型训练发生在每个用户的设备上。与将原始数据发送到中央服务器相比，这可能对隐私更好……但来自每个用户的模型更新仍然可能泄露敏感信息！使用安全聚合和/或本地差分隐私可以缓解这种风险。

私有地计算数据

对于这个用例，你的目标是让合作伙伴在你的敏感数据上运行计算，但向合作伙伴隐藏数据。例如，在我们的医疗保健应用故事中，假设你通过应用收集了一些敏感数据。一个合作公司构建了一个你想在这个数据上使用的预测模型。你希望他们在你的数据上运行他们的模型，但你不想让他们能够直接访问你的数据。

对抗模型如下。

• 你——收集数据的机构——可以访问敏感数据。
• 执行计算的组织不能访问这些数据。

两种主要技术解决这个用例。

• 同态加密 包括在执行计算之前加密数据。该组织必须调整其计算以在加密数据上工作。然后，他们以加密形式将结果发回给你，你可以解密以查看结果。
• 机密计算 是一种基于硬件的方法，用于加密使用中的数据。它可以与远程证明相结合：这种技术允许你验证只有你批准的代码正在你的数据上运行。

同态加密提供的保证更强：你不需要信任硬件是否被正确保护。然而，这些更强的保证是有代价的：同态加密通常有非常大的性能开销。

私有地连接数据

对于这个用例，你的目标是将你的数据与其他组织的数据组合。例如，在我们的医疗保健应用中，你可能想计算你的用户中有多少人也在使用另一家公司的另一个应用。或者你想衡量两个应用中指标之间的相关性。但和以前一样，你不希望任何其他人直接访问你的数据。你也不想看到其他组织的数据！

对抗模型如下。

• 你可以访问自己的敏感数据（仅限你自己的）。
• 其他组织不能访问它。运行计算的平台（如果有）也不能访问它。

那么计算的输出呢——谁可以访问它？这取决于。在某些情况下，所有参与组织都可以访问结果。在其他情况下，只有某些组织可以看到它们。

有两种主要技术解决这个用例。

• 安全多方计算 包括每个参与者首先加密自己的数据。然后，参与者使用加密协议来计算感兴趣的指标。
• 机密计算 使用硬件模块加密使用中的数据。和以前一样，它与远程证明结合使用时效果最佳：这样，每个参与者都可以验证只有批准的代码在其数据上运行。

请注意，这些技术有时不足以保护原始数据：计算的结果本身可能泄露一些关于数据的敏感信息！这为下一个用例提供了完美的过渡……

私有地分享数据

最后，对于这个用例，你的目标是分析你的数据，并分享一些关于它的见解。在这里，分享可能意味着非常不同的事情。

• 内部共享：你组织另一个部门的员工可能想使用你的应用指标来指导不同产品的设计。然而，在你的隐私政策中，共享个人数据需要明确的同意：你的合规要求要求你正确匿名化指标，即使是内部使用。
• 外部共享：合作大学的研究人员可能想使用你应用的数据进行科学研究。你的目标是在不让他们看到个人信息的情况下与他们分享见解。
• 发布：你可能想在应用本身中展示一些聚合指标作为功能的一部分。在这种情况下，你应用的所有用户都可以看到这些指标：重要的是它们不会无意中泄露私人信息。

当然，删除标识符不足以缓解隐私风险。你如何在不泄露个人信息的情况下实现这些用例？

对抗模型如下。

• 你可以访问敏感的原始数据。
• 可以看到共享数据的人不能利用它来了解有关个人的信息。

有一种主要技术解决这个用例。如果你正在阅读这个博客系列，你一定知道它是什么：差分隐私。它为聚合信息添加统计噪声并提供强大的隐私保证。你可以将差分隐私用于不同类型的数据发布：

• 原始数据集上的统计数据或其他聚合分析；
• 在敏感数据上训练的机器学习模型；
• 或合成数据，其格式与原始数据相同。

最终评论

处理敏感数据面临许多挑战。在这篇博客文章中，我列举了一些主要的用例以及解决它们的隐私技术。我省略了一些其他隐私增强技术，原因有两个。

• 我们见过的一些用例方法没有提供任何可靠的隐私保证。例如，一些提供商解决了"私有地连接数据"的用例，但没有可证明的保证：相反，他们只是将自己定位为受信任的第三方。"私有地分享数据"的用例情况类似：一些提供商专注于临时匿名化技术。这些无法形式化地量化隐私风险，并且在实践中经常失败。
• 一些技术解决了更小众或不常见的用例。例如，零知识证明主要在加密货币/区块链应用中有用。私有信息检索 可以使数据库对客户可访问，同时无法了解这些客户正在查询数据的哪部分。还有其他技术：隐私技术是一个大领域，不断创新。

---

1. 有时称为联邦分析。

2. "机密计算"一词有几个同义词和相关概念。

   • 可信执行环境 指的是机密计算中使用的硬件模块。
   • 可信计算 使用与机密计算相同类型的硬件模块。但在可信计算中，上下文不同：终端用户而不是组织在其设备上运行硬件模块。数字版权管理是这种设置的常见用例。
   • 数据洁净室 是机密计算的一个更通用的术语：它还包括不使用可信硬件模块的更多临时解决方案。

3. 在这里，它被用作中央差分隐私的简称。这不是最明确的，但在实践中经常这样做。