差分隐私是否适合你的问题？

假设你有一批敏感数据，比如芝加哥首次购房抵押贷款申请者的财务信息。你想发布这些数据，或与第三方分享，比如用于促进经济研究。这些财务数据包含个人信息，所以你需要确保不会泄露个人隐私。

到目前为止，这似乎是差分隐私（DP）的完美用例：发布趋势而不泄露个人信息，正是 DP 的设计初衷。你知道 DP 能成功保护这些个体数据——它的保证无论数据分布如何都适用。但你可能仍在想：我能成功发布有用的数据吗？它对使用者来说足够准确吗？

在这篇博文中，我会用一个简单的试金石测试，帮你初步判断差分隐私是否适合你的需求。剧透警告：整个过程看起来像这样。

一个简单的试金石测试

想想人们将基于发布数据做出的决策，问自己一个问题：

原始数据中的小变化，会导致完全不同的决策结果吗？

以首次购房者数据的场景为例。假设从数据集中删除一个购房者的信息——这会改变你的分析结果吗？如果分析的是芝加哥整体抵押贷款的中位数值，可能不会。但如果分析的是某个邮政编码中抵押贷款的最大值，那么删除那个最大值就可能大大改变结果！

这个问题有三个可能的答案：

• 分析结果不太依赖于数据的小变化。这种情况下，我们说数据分析是稳健的，差分隐私可能适合你。
• 分析可能对小变化非常敏感。这种情况下，值得问：我们能将分析变得更稳健吗？如果不能，那么差分隐私可能不适合。
• 最后，可能不清楚数据将用于什么，以及这些分析是否稳健。那么我们需要先搞清楚这个问题，更多地了解用例。

让我们更仔细地看看这三个选项。

稳健的分析：非常适合差分隐私

稳健的分析是指那些不太依赖于数据中个体变化的分析。许多常见的数据分析都属于稳健类型；尤其是几乎所有旨在捕捉趋势的应用。例如，如果你在……

• ……估计大人群规模（> 100）
• ……理解大型数据集中特征之间的相关性
• ……为拥有许多用户的服务生成使用指标
• ……计算大群体的统计数据

……那么这些分析的结果不会受到数据中微小变化的影响。

这种情况下，差分隐私可能适合你。稳健的分析特别适合 DP 技术：你将能够生成具有强隐私保护的高质量数据。使用 DP 数据做出的决策，将与基于真实数据做出的决策非常相似。

这很好理解：DP 的核心是向计算添加少量抖动以隐藏个人数据。但 DP 不需要太多抖动：扰动的大小与单个人的影响相当。如果单个人不太可能改变分析结果……那差分隐私也不太可能改变太多。

注意，这个试金石测试告诉你的是可行性，并不一定意味着部署 DP 很容易。某些用例——比如机器学习，或者你想发布大量统计数据的情况——可能很棘手。无论如何，我在 Tumult Labs 的同事和我可以提供帮助！欢迎联系我们。

对数据中小变化敏感的分析

有些分析对个人的数据非常敏感：一个人数据的变化就可能彻底改变结果！这通常发生在三种情况下。

小人群

假设你想发布某个邮政编码的平均抵押贷款值，但那里只有少数首次购房者——比如不到 10 个。这种情况下，个体变化可能对平均值产生很大影响！

个体变化可能对基于数据做出的决策产生很大影响。差分隐私添加的噪声也很可能改变分析结果。这通常不可接受：DP 不适合。

寻找异常个体

假设你想找出哪些人的抵押贷款明显高于所在地区的平均值。这类应用的目标是检测异常行为。这与差分隐私的基本目标相矛盾：隐藏所有个体的信息，包括异常值！这种情况下，可能需要另一种方法。

保持可链接性

假设你想让其他人能够将你的数据与自己的数据进行个人级别的分析连接。这种情况下，你需要原始数据和输出数据中的人之间存在一对一关系。这也与差分隐私矛盾：你不能既隐藏谁在敏感数据集中，又保持可链接性。数据中的小变化将清晰可见——某个用户要么出现在输出中，要么不出现。

使分析更稳健

当分析对数据中的小变化敏感时，值得问一句：我们能改变这一点吗？能用更稳健的方式重新表述问题吗？这样做通常一举两得，同时带来隐私和实用性的改善。

假设发布的数据将用于确定年龄对抵押贷款拒绝率的影响。一种方法是按年龄分组发布拒绝率。但某些年龄值比其他年龄值更罕见：我们可能有许多 40 岁的数据点，但只有少数 20 岁的数据点。

对于这些异常值，数据中的小变化可能导致大的波动。但我们对特定年龄值不感兴趣，只关心年龄和拒绝率之间的全局关系。因此，我们可以改变策略，按年龄范围发布数据，让每个统计数据基于更多数据，对小变化更稳健。这将使发布的数据更可信，发布过程也更适合差分隐私。

对于看似需要可链接性的用例，问自己：我们能在计算目标统计数据之前，先执行数据集之间的连接吗？如果能，那使用差分隐私可能是一个选项。

如果我不知道数据将如何使用？

有时，试金石测试的问题可能难以回答：将基于发布数据做出什么决策？你可能知道别人想访问这些数据，但不知道他们究竟想用来做什么。

那正确的做法就是尝试更多地了解他们的用例。你越了解他们的需求，就越容易为他们设计有效的解决方案。这不仅是为了回答可行性问题，也是为了帮助制定基于 DP 的解决方案的需求。你越了解利益相关者的要求，你和他们对发布的数据就越满意。