10、可信人工智能的防御实践与政策法规

可信人工智能的防御实践与政策法规

一、防御实践概述

在数据和模型生命周期管理的不同阶段，有多种防御实践可用于减轻攻击。以下是一些关键的防御措施：
1. 数据处理技术 ：包括数据匿名化、去匿名化、使用差分隐私（DP）训练机器学习算法以及加密传输方法。这些技术有助于保护数据隐私和安全，防止数据被恶意利用。
2. 对抗风险缓解框架 ：特别是基于开源深度学习的框架，可在部署机器学习模型并将其暴露于公共 API 之前测试其鲁棒性。利用现有框架并设计新的框架，可以增强对试图破坏人工智能模型、系统和服务的半诚实或不诚实参与者/对手的抵御能力。
3. 下一代系统设计选择 ：去中心化数据存储、联邦学习（FL）以及高效的加密和隐私措施，是具有高潜力的隐私增强型下一代系统的设计选择。

相关资源

以下是一些进一步阅读的资源，涵盖了数据掩码、隐私保护、模型鲁棒性评估等多个方面：
| 资源名称 | 链接 |
| — | — |
| Data masking: what it is, how it works, types, and best practices | https://research.aimultiple.com/data-masking/ |
| A Defense Framework for Privacy Risks in Remote Machine Learning Service | https://www.hindawi.com/journals/scn/2021/9924684/ |