差分隐私（Differential Privacy）
由 Cynthia Dwork 等于 2006 年提出的隐私数学保证框架。对查询结果加上精心设计的随机噪声，使得是否包含某个个体在数据集中，对查询结果的影响小到可忽略。是当前最被广泛接受的隐私保护数学标准。
是什么
P(M(D) ∈ S) ≤ exp(ε) × P(M(D') ∈ S)
ε 越小隐私越强（但效用越低），通常 ε ∈ [0.1, 10]。
关键应用
- 合成数据保证Gretel AI / MOSTLY AI 等用差分隐私保证合成数据不泄露原始记录
- 统计查询Apple iOS 用差分隐私收集用户行为统计
- 联邦学习与 联邦学习 结合，保护模型梯度不泄露训练样本
- 公开数据集发布美国人口普查 2020 用差分隐私发布数据
在 AI 训练数据中的角色
- 金融 / 医疗合规刚需GDPR / HIPAA 下，差分隐私是合规底线之一
- 合成数据公司核心卖点没有差分隐私保证的合成数据存在反向工程风险
主要玩家
- 理论Cynthia Dwork（微软研究院 / 哈佛）/ Aaron Roth（宾大）
- 合成数据Gretel AI / MOSTLY AI / Syntho
- 大公司应用Apple、Google、Microsoft、美国人口普查局
局限
- 效用 - 隐私权衡ε 越小数据越没用
- 实现复杂算法设计需要专家
- 可解释性低难以向业务用户解释
相关概念
所属数据引擎