4、基于图像的深度学习中的数据安全问题

基于图像的深度学习中的数据安全问题

1. 深度学习数据安全背景

深度学习在不同研究领域已展现出卓越性能，越来越多现实应用开始引入深度神经网络（DNN）。然而，DNN的训练过程通常需要大量训练数据和高昂计算成本。因此，像谷歌、亚马逊和微软等云服务提供商推出了基于云的深度学习解决方案，即机器学习即服务（MLaaS）。这种服务虽为用户提供了计算资源（计算能力和存储空间）的灵活性，但将训练数据上传到外部公司管理的远程服务器可能会引发数据安全问题。

2. 相关术语解释

术语	解释
集中式训练	训练过程在单个服务器上完成，单个云服务器获取用户的所有训练数据以完成DNN训练，最终DNN模型的参数仅由云服务器计算得出。
协作式训练	训练过程以分布式方式进行，每个用户分别训练DNN模型，同时交换学习到的模型参数，“最终”的DNN模型以“协作”方式训练而成。
黑盒攻击者	攻击者可以访问DNN模型以生成输出（即预测），但不知道DNN模型的详细信息，如训练数据、网络架构和优化过程。
白盒攻击者	攻击者既能访问DNN模型以生成输出（即预测），也了解DNN模型的详细信息，如训练数据、网络架构和优化过程。