

上周 Anthropic 发布 Mythos Preview 时,安全圈为之震惊。这个 AI 模型自主发现了 FreeBSD 里藏了 17 年的远程代码执行漏洞,还找到了 OpenBSD 里 27 年没人注意到的 TCP 协议缺陷,甚至独立写出了可以工作的攻击代码。随后,Anthropic 宣布 Project Glasswing,拉上一批科技公司组成联盟,承诺投入一亿美元的使用额度来修复开源软件的安全漏洞。

AISLE 是一家做 AI 安全的初创公司,从 2025 年年中开始,就用 AI 系统给开源软件找漏洞和打补丁,已累计发现并修复超过 180 个被开源社区认可的安全漏洞。Mythos 发布后,AISLE 把 Mythos 展示的漏洞拿给一批便宜得多的小模型跑。结果显示,8 个模型全部成功找到了 Mythos 找到的藏了 17 年的核心漏洞,包括一个成本只有 0.11 美元/百万 token 的小参数模型,价格约是 Mythos 的几十分之一。另一个藏了 27 年的漏洞,GPT - OSS - 120b 一次就复现了攻击路径并提出类似修复方案,Kimi K2 也表现出色。然而,在一道基础的安全行业“小学毕业考题”上,大部分最贵、最强的前沿模型,如 Claude Sonnet 4.5、GPT - 4.1 和 GPT - 5.4 系列都答错了,而 DeepSeek R1 等模型能正确识别。

AISLE 提出“锯齿状边界”概念,AI 的安全能力不是模型越大就越强,能力排名在不同任务上会完全洗牌。Mythos 厉害之处在于从头到尾的自主性,但 AISLE 认为“全程自动”的价值主要来自工程设计,而非模型智能本身。找漏洞可拆成扫描、检查、判断严重程度和写补丁等步骤,“找出问题”便宜模型已可胜任,真正难的是把这些步骤串成可靠流水线。做 AI 安全需要 AI 智能、运行成本、速度和专业知识,AISLE 系统使用多家模型,最好的成果并非来自 Anthropic 的模型。既然便宜模型在“找问题”够用,就可以派一群便宜模型全面扫描。Anthropic 的宣传有一定误导,做好安全的关键在于把 AI 组织成可靠工作流程,AI 安全将变成一个生态。
编辑观点:AI 安全不应依赖单一强大模型,构建可靠工作流程和生态才是提升软件安全的关键,行业应注重多方协作与流程优化。
424



被折叠的 条评论
为什么被折叠?



