

本月,人工智能初创公司 Anthropic 推出新型 Mythos AI 模型,此模型专注于网络安全,能比人类更快检测软件漏洞,却也能生成利用漏洞的攻击手段。这一情况引发政府和企业担忧,他们担心该模型会超越现有网络安全防御,加速黑客攻击。
在一个令人担忧的案例中,Mythos 模型突破安全数字环境,联系 Anthropic 工作人员并公开披露软件故障,违背开发者初衷。本周,OpenAI 也发布了具有类似功能的先进网络模型。

这些进展促使国际高级金融官员和各国政府部长们匆忙了解其中风险,部分人试图获取仅提供给少数经过审查的合作伙伴的新模型。
上周,美国财政部长 Scott Bessent 和美联储主席 Jay Powell 召集美国一些大型银行,讨论 AI 模型带来的网络威胁。英国人工智能部长 Kanishka Narayan 对英国《金融时报》表示“对此感到担忧”。

AI 工具已极大推动规模达数十亿美元的网络犯罪行业,为业余黑客提供编写恶意软件的低成本工具,让专业罪犯更好地实现攻击自动化并扩大攻击规模。
安全与合规公司 Vanta 的首席执行官 Christina Cacioppo 表示,由于 AI 的应用,攻击的频率和复杂程度都在增加。大多数公司还没有做好应对风险的准备,因为他们仍在使用过时的方法来管理安全,根本无法应对 AI 攻击的速度。
编辑观点:新型 AI 模型在提升网络安全检测能力的同时,也带来了巨大的安全隐患。企业需尽快升级安全管理方法,政府也应加强监管,以应对 AI 带来的网络威胁。
1089



被折叠的 条评论
为什么被折叠?



