8、密码学推动人工智能进化

密码学推动人工智能进化

1. 背景与动机

1.1 安全人工智能相关调查

近年来，安全人工智能吸引了众多研究者的关注，相关领域也发布了不少调查研究。多数调查聚焦于特定的安全方面，如隐私或弹性，或是特定的人工智能工具，像神经网络（NNs）、机器学习（ML）或深度学习（DL）。具体情况如下：
- 有研究从隐私角度探讨了协作深度学习（CDL），论述了通用加密算法及其他在CDL中保护隐私的技术。
- 有调查聚焦于弹性机器学习在网络网络物理系统中的应用，强调弹性是安全网络物理系统中机器学习算法的必要属性。
- 有研究回顾了安全医疗系统中的鲁棒机器学习，探讨了医疗领域各种隐私保护场景以及相应的鲁棒机器学习方法。
- 有调查基于多方计算和数据加密，对隐私保护的深度学习方法进行了综述，尤其关注训练和推理阶段的隐私问题，并根据是否使用线性或非线性分析作为构建模块对鲁棒深度学习方法进行了分类。
- 有研究总结了深度学习中的安全和隐私问题，以及相关的攻击和防御方法，重点关注对抗攻击，还讨论了一些相关挑战并提出了深度学习隐私方面的开放性问题。
- 有综述聚焦于安全人工智能，研究了对深度学习模型的攻击，特别是模型反转攻击、模型提取攻击、对抗攻击和中毒攻击，以及相关的基本工作流程、攻击目标和攻击者能力。
- 有研究回顾了针对机器学习的安全威胁以及相关的防御技术，将现有的对抗机器学习攻击的对策分为安全评估机制、训练阶段对策、测试阶段对策、推理阶段对策、数据安全机制和隐私保护，并强调了一些有未来研究空间的相关主题。
- 有研究简要概述了与安全机器学习相关的新兴研究问题以及该领域的当前进展。

这些研究还指出了一些重要观点，如隐私是深