16、机器学习中的隐私保护策略与实践

机器学习中的隐私保护策略与实践

一、数据处理与简单隐私保护方法

在机器学习中，我们不仅要处理不再有用或不需要的旧数据，还要让团队意识到更多的数据并不总是意味着更好的性能。我们需要制定策略，编写测试，并尽可能实现自动化。即使软件可能由一个小团队维护，但也需要有一个更大的群体能够在不完全了解其工作原理的情况下使用该软件。这就要求提供有用的文档、易于使用的库和 API、经过充分测试和自动化的代码，以及必要时提交工单和寻求支持的流程。

当创建差分隐私机制过于复杂时，就需要应用更简单的方法并构建隐私感知的工作流程。以下是一些简单方法：
1. 数据编辑 ：当差分隐私不适用于特定模型或功能时，可以考虑数据编辑，即从数据中移除明显的个人和敏感属性，这至少能避免模型直接学习这些属性。但仅靠这种方法不能防止所有可能的信息泄露，因为这些属性往往与网站活动、购物行为等训练数据相关。
2. 假名化和格式保留加密 ：在最大程度地进行数据编辑后，可以采用假名化或格式保留加密等技术。例如，对于生日信息，可以将其泛化为出生年份甚至出生年代。
3. 明确编码信息 ：某些变量可能蕴含大量潜在信息，如美国邮政编码与阶层、种族、社会经济地位和种族等相关。如果邮政编码对模型决策影响较大，需要思考模型是否会对人造成伤害，并在团队和组织内提出担忧。可以创建一个分类变量，利用地理收入数据将邮政编码映射到收入组，如创建“社区收入等级”变量，将邮政编码映射到不同的收入范围或更广泛的类别，这样能更清楚地了解模型的决策依据，有助于评估模型是否符合公平机器学习的内部标准。
4. 数据泛化