差分隐私的原理、优势和应用案例

PrimiHub一款由密码学专家团队打造的开源隐私计算平台，专注于分享数据安全、密码学、联邦学习、同态加密等隐私计算领域的技术和内容。

由于声誉受损或受到法规罚款等因素，数据隐私的侵犯对组织来说代价高昂。根据IBM的2022年数据泄露成本报告，数据泄露的平均总成本接近450万美元。但是许多重要的业务问题仍然需要访问私人信息，这就需要隐私保护，本文介绍2023年被重点关注的隐私保护技术——差分隐私。

什么是差分隐私？

差分隐私是一种在数据集中添加受控制的随机性噪声，以防止任何人获取关于数据集中个体信息的数学技术。添加的随机性噪声是受控制的，因此生成的数据集仍然足够准确，可以通过数据分析生成聚合见解，同时保持个体参与者的隐私。

差分隐私的工作原理

差分隐私引入了一个称为隐私损失或隐私预算参数的概念，通常表示为epsilon（ε），用于控制添加到原始数据集的噪声或随机性的量。ε控制添加到原始数据集的噪声或随机性的量。

为了简化，假设数据集中有一个包含个体的“是”/“否”答案的列。对于每个个体，抛一次硬币，如果是

• 正面，保留答案不变

• 反面，再抛一次硬币，如果是正面，将答案记录为“是”，如果是反面，将答案记录为“否”，而不管真实答案如何。

这个过程向数据添加了随机性噪声。对于足够大的数据集在聚合测量方面仍然是准确的。同时，数据集中的每个个体都可以合理地否认其真实答案。

在实际应用中，添加噪声的算法比抛硬币要复杂一些。这些算法基于参数ε，该参数控制隐私和数据效用之间的权衡：ε值越高，数据越准确，但隐私越低。差分隐私可以在本地或全局实施。在本地差分隐私中，噪声被添加到个体数据之前集中存储在数据库中。在全局差分隐私中，噪声是在从许多个体收集的原始数据之后添加的。