差分隐私（Differential Privacy）

由 Cynthia Dwork 等于 2006 年提出的隐私数学保证框架。对查询结果加上精心设计的随机噪声，使得是否包含某个个体在数据集中，对查询结果的影响小到可忽略。是当前最被广泛接受的隐私保护数学标准。

是什么

P(M(D) ∈ S) ≤ exp(ε) × P(M(D') ∈ S)

ε 越小隐私越强（但效用越低），通常 ε ∈ [0.1, 10]。

关键应用

• 合成数据保证 — Gretel AI / MOSTLY AI 等用差分隐私保证合成数据不泄露原始记录
• 统计查询 — Apple iOS 用差分隐私收集用户行为统计
• 联邦学习 — 与 联邦学习 结合，保护模型梯度不泄露训练样本
• 公开数据集发布 — 美国人口普查 2020 用差分隐私发布数据

在 AI 训练数据中的角色

• 金融 / 医疗合规刚需 — GDPR / HIPAA 下，差分隐私是合规底线之一
• 合成数据公司核心卖点 — 没有差分隐私保证的合成数据存在反向工程风险

主要玩家

• 理论：Cynthia Dwork（微软研究院 / 哈佛）/ Aaron Roth（宾大）
• 合成数据：Gretel AI / MOSTLY AI / Syntho
• 大公司应用：Apple、Google、Microsoft、美国人口普查局

局限

• 效用 - 隐私权衡 — ε 越小数据越没用
• 实现复杂 — 算法设计需要专家
• 可解释性低 — 难以向业务用户解释

相关概念

• 联邦学习 / 合成数据
• 数据治理