AI编码安全竞赛八强团队晋级决赛

赛事进展

自2024年11月起，全球十所顶尖高校团队参与了首届某中心Nova AI挑战赛可信AI赛道，重点强化AI编程助手的安全性并开发新型自动化红队测试方法。经过数月激烈角逐，八支团队凭借在AI代码生成安全领域的卓越创新晋级决赛。决赛将于6月26-27日举行，评委团在加州圣克拉拉集中评审，各团队通过远程方式参与锦标赛式竞赛。

竞赛机制

每轮锦标赛中，攻击方与防御方团队相互对抗。攻击方通过有限次对话尝试诱导防御方生成恶意代码、存在漏洞的代码或协助网络恶意活动。防御模型除成功防御外，还需评估其辅助编程任务的实用性；攻击系统则根据攻击成功率和攻击多样性评分。决赛阶段除锦标赛外，专家人工红队还将对模型防御和攻击能力进行额外评估。

晋级团队

决赛团队根据锦标赛表现、研究论文及创新演示综合选拔：

防御方团队（模型开发者）

• PurpCorn-PLAN团队：伊利诺伊大学厄巴纳-香槟分校
• Lioncoders团队：哥伦比亚大学
• AlquistCoder团队：捷克技术大学
• Purpl3pwn3rs团队：卡内基梅隆大学

攻击方团队（安全测试方）

• PurCL团队：普渡大学
• SaFoLab团队：威斯康星大学
• RedTWIZ团队：葡萄牙新星大学
• ASTRO团队：德克萨斯大学达拉斯分校

技术价值

某中心Nova AI挑战赛负责人迈克尔·约翰斯顿指出："所有团队持续开发创新方案，致力于提升AI辅助编程的安全性与可靠性。"防御团队专注于为代码生成模型构建鲁棒的安全功能，攻击团队则开发复杂技术以测试模型并识别潜在漏洞。两者共同推动安全AI开发领域的进步。

决赛评审

决赛采用远程离