
Anthropic 发布新 AI 模型
周二,Anthropic 发布了两款新的 AI 模型,分别名为 Claude Fable 5 和 Claude Mythos 5。据悉,该公司表示这两款模型的能力比其在 4 月向部分科技行业合作伙伴发布的 Mythos Preview 模型更强。
发布策略与担忧
Anthropic 曾表示,最初的限量发布源于对该模型能力可能被恶意行为者利用来开发黑客工具的担忧,这些工具可能会让防御者措手不及。目前,Anthropic 仅向部分行业合作伙伴发布 Claude Mythos 5,其中许多合作伙伴此前已获得 Mythos Preview 的使用权限。该公司称正在与美国政府合作推进这一发布工作。
Claude Fable 5 的防护措施
周二,Anthropic 表示,公开发布的 Claude Fable 5 与 Mythos 5 采用相同的底层模型,但在发布时会设置“防护栏”,阻止该模型回答许多与网络安全、生物学和化学相关的用户问题。这些请求将被重新路由到旧版 AI 模型 Claude Opus 4.8。该公司称,如果 Anthropic 怀疑用户试图在 Claude Fable 5 上进行“蒸馏”(即利用大型 AI 模型的响应来训练小型 AI 模型),这些请求也将被重新路由到 Claude Opus 4.8。
产品管理主管谈策略完善
在接受《连线》杂志采访时,Anthropic 的产品管理主管黛安·佩恩(Diane Penn)表示,自 4 月发布之前,公司就一直在努力解决如何处理 Mythos 的软件漏洞发现能力和其他高级功能的问题,但此后的测试和用户反馈有助于完善策略。佩恩说:“我们正试图以一种有益的方式进行改进,即使一开始我们没有针对每个用例的完美解决方案。在所有不同的方法中,这被证明是最可行和最好的方法。我们最终觉得这是让用户从 Fable 5 中获得最大价值的最佳产品选择。”
保护机制现状与展望
佩恩表示,目前保护机制的设计倾向于谨慎行事,这意味着一些用户查询可能会被路由到能力较弱的 AI 模型,即使这些查询并无恶意。Anthropic 希望随着时间的推移,使其分类器更加精确,但佩恩称,目前这是公司能够广泛发布该模型的唯一安全方式。
扩大使用权限计划
该公司周二表示,除了向“玻璃翼计划”(Project Glasswing)的合作伙伴提供 Claude Mythos 5 外,还将向“部分生物学研究人员”开放使用权限。此外,Anthropic 在周二发布的博客文章中指出,在“可信访问计划”推出之前,将向这些小范围的客户提供无限制版本,这暗示了未来有进一步扩大使用权限的计划。
模型能力引发的行业挑战
自 4 月发布 Mythos 以来,Anthropic 多次强调,最终无论是私营领域还是开放权重领域的竞争对手,都不可避免地会推出具备 Mythos 级能力的模型。Claude Mythos 和其他新 AI 模型设计黑客工具、发现并利用新旧软件漏洞的能力,迫使全球科技公司和政府在这类水平的 AI 模型被广泛提供给攻击者之前,加强软件防御。
“玻璃翼计划”理念与目标
Anthropic 最初通过一个名为“玻璃翼计划”的联盟向行业合作伙伴发布 Mythos,其理念是让成员在更广泛发布之前,有先机准备自己的系统并权衡应对这一威胁的全球解决方案。Anthropic 上周在关于“玻璃翼计划”的更新中写道:“我们正尽快安全地向大众发布 Mythos 级别的能力。为此,我们需要强大的保障措施,防止该模型的网络能力被滥用——而我们(据我们所知,所有其他 AI 开发者)尚未开发出这样的保障措施。”
425



被折叠的 条评论
为什么被折叠?



