

上周,Anthropic 发布 Mythos Preview,在安全圈引起巨大反响。这个 AI 模型自主发现了 FreeBSD 中隐藏 17 年的远程代码执行漏洞,还找出 OpenBSD 里 27 年无人察觉的 TCP 协议缺陷,甚至能独立写出可工作的攻击代码。随后,Anthropic 宣布 Project Glasswing,联合科技公司组成联盟,并承诺投入一亿美元使用额度修复开源软件安全漏洞。

AISLE 从 2025 年年中起,利用 AI 系统为开源软件查找漏洞并打补丁,累计发现并修复超 180 个获开源社区认可的安全漏洞。Mythos 发布后,AISLE 用成本低得多的小模型检测其展示的漏洞。结果显示,Mythos 用来“秀肌肉”的藏了 17 年的核心漏洞,AISLE 测试的 8 个模型全部成功找到,其中一个成本仅 0.11 美元/百万 token 的模型也不例外。对于藏了 27 年的更具挑战性的漏洞,GPT - OSS - 120b 一次就复现攻击路径并提出与 A 社实际修复方案基本一致的补丁,Kimi K2 也表现出色。

AISLE 出的一道基础安全题,大部分最贵、最强的前沿模型如 Claude Sonnet 4.5、GPT - 4.1 和 GPT - 5.4 系列都答错了,而 DeepSeek R1 四次试验均正确识别,GPT - OSS - 20b 和 OpenAI o3 也能分辨出来。这表明 AI 的安全能力并非模型越大就越强,其表现参差不齐,能力边界是“锯齿状”的。

Mythos 的厉害在于其从头到尾的自主性,但 AISLE 认为这种“全程自动”的价值主要源于工程设计,而非模型智能本身。找 AI 找漏洞各步骤难度差异大,“找出问题”便宜模型已能胜任,真正难点在于整合步骤形成可靠流水线。AISLE 系统同时使用多家模型,最佳成果并非来自 Anthropic 的模型。这意味着安全关键不在模型,而在系统,AI 安全将形成生态,众多团队用不同 AI 组合和专业知识保障软件安全。
编辑观点:AI 安全不应依赖单一强大模型,构建可靠系统和生态才是关键,多方协作能让软件更安全。
1583



被折叠的 条评论
为什么被折叠?



