国内首发 | CSA大中华区启动《AI安全产业图谱（2024）》调研

在人工智能（AI）技术的快速发展浪潮中，AI安全已成为全球关注的焦点。为应对AI安全带来的挑战，确保AI技术的健康发展，全球范围内的研究机构、企业和技术社区都在积极探索解决方案。

在这一背景下，CSA大中华区于2023年9月成立了AI安全工作组，汇集了来自中国电信、蚂蚁集团、电子科技大学、华为、百度安全、京东安全等机构的专家，致力于构建一个多方参与、共同治理的AI安全生态系统。

CSA大中华区在AI安全领域开展了多项研究工作并取得显著成果。先后发布了《ChatGPT的安全影响》、《AI安全白皮书》、《全球人工智能治理宣言》等研究成果；与OpenAI、亚马逊、谷歌、微软等行业巨头合作，共同发起了AI安全倡议。此外，由CSA大中华区牵头，联合 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软等数十家单位的多名专家学者共同编写的《生成式AI应用安全测试标准》和《大模型安全测试方法》两项国际标准，在第27届联合国科技大会（联合国科技领域的最高级别会议）上由世界数字技术院（WDTA）发布。这是国际组织首次在生成式AI应用安全、大模型安全领域发布国际标准，为业界提供了统一的测试基准。