在人工智能(AI)技术的快速发展浪潮中,AI安全已成为全球关注的焦点。为应对AI安全带来的挑战,确保AI技术的健康发展,全球范围内的研究机构、企业和技术社区都在积极探索解决方案。
在这一背景下,CSA大中华区于2023年9月成立了AI安全工作组,汇集了来自中国电信、蚂蚁集团、电子科技大学、华为、百度安全、京东安全等机构的专家,致力于构建一个多方参与、共同治理的AI安全生态系统。
CSA大中华区在AI安全领域开展了多项研究工作并取得显著成果。先后发布了《ChatGPT的安全影响》、《AI安全白皮书》、《全球人工智能治理宣言》等研究成果;与OpenAI、亚马逊、谷歌、微软等行业巨头合作,共同发起了AI安全倡议。此外,由CSA大中华区牵头,联合 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软等数十家单位的多名专家学者共同编写的《生成式AI应用安全测试标准》和《大模型安全测试方法》两项国际标准,在第27届联合国科技大会(联合国科技领域的最高级别会议)上由世界数字技术院(WDTA)发布。这是国际组织首次在生成式AI应用安全、大模型安全领域发布国际标准,为业界提供了统一的测试基准。