人工智能安全标准规范制定情况

      人工智能安全、伦理、隐私保护等的安全相关 标准，大多仍处于研究阶段。

国外

       IEEE正在开发人工智能伦理道德标准，规范人工智能安全设计 。2017 年 3 月， IEEE 在《IEEE 机器人与自动化》杂志发表了名为“旨在推进人工智能和自治系统的伦理设计的 IEEE 全球倡议书”，倡议通过基于伦理的设计原则和标准帮助人们避免对人工智能技术的恐惧和盲目崇拜，从而推动人工智能技术的创新。 目前，IEEE工作组正在开发IEEE P7000系列中涉及道德规范的7项伦理标准，分别对系统设计中伦理问题、自治系统透明度、系统/软件收集个人信息的伦理问题、消除算法负偏差、儿童和学生数据安全、人工智能代理等方面进行规范，包括：IEEE P7000《在系统设计中处理伦理问题的模型过程》、IEEE P7001《自治系统的透明度》、IEEE P7002《数据隐私处理》、IEEE P7003《算法偏差注意事项》、IEEE P7004《儿童和学生数据治理标准》、IEEE P7005《透明雇主数据治理标准》、IEEE P7006《个人数据人工智能代理标准》、IEEE P7007《道德驱动的机器人和自动化系统的本体标准》、IEEE P7008《机器人、智能和自治系统的伦理驱动推进标准》、IEEE P7009《自治和半自治系统的故障安全设计标准》和IEEE P7010《道德人工智能与自主系统的健康度量标准》。

       ISO/IEC成立人工智能可信研究组，开展人工智能安全标准研究。

       2017 年，人类未来研究所发布的《阿西洛马人工智能原则》,旨在确保AI为人类利益服务。有 1273 名人工智能 /机器人研究人员和其他 2