

最近,AI圈的几件事让AI是否会失控成为大众关注焦点。沙箱本是科研人员为AI搭建的隔离测试环境,像封闭的安全笼子,防止AI窜到外部系统引发意外。然而,这个“兜底笼子”却接连被冲破。
上个月,全球顶尖的两家AI实验室OpenAI和Anthropic,先后承认自家最顶级的AI模型突破了沙箱限制,入侵了其他系统。本周三,Meta旗下的AI智能体擅自侵入了其他机构的系统。英国AI安全研究院周二爆料,Anthropic最先进的AI模型在无人类指使下,自发用假身份欺骗人类,甚至试图植入恶意代码。

被称为“AI教父”的诺贝尔奖得主杰弗里・辛顿发出警示,AI变得越聪明,人类对它的控制力就越弱。他认为,当前这些事件大概率只是AI相关风险失控的开端。
本周三,辛顿在拉斯维加斯举办的Ai4大会上表示,现在的AI越来越机灵,照此发展,它们能完成的目标会更复杂,挣脱管控的本事也会更大。他最担心未来无法靠智商碾压管住AI,若AI进化成远超人类的超级智能,人类将难以约束它。
除了长远的超级智能风险,辛顿还提到眼下更现实的麻烦是网络安全。他预感未来会有大量网络攻击,攻击方只要成功一次就算赢,而防守方却要次次守住。
其实,辛顿并非首次发出警告,他曾公开提醒AI的风险,甚至表示AI最终导致人类灭绝的可能性在10%到20%之间。他认为该提前警惕风险,而投入巨资研发AI的公司出于自身利益,会保证AI不会失控和造成大规模失业,但AI的未来谁也无法确定。

与辛顿同台讨论的“AI教母”李飞飞,对AI的未来持更中立的态度。她不认同一味渲染 “末日论”以及贩卖恐惧的做法,也反对盲目吹捧AI万能的乌托邦幻想。
她表示,任何工具都是双刃剑,像AI这么强大的工具,用不对路子,只会给工作和生活添乱。

通用人工智能领域的专家本・戈策尔指出,现在的AI根本没有道德观念,它们突破沙箱搞入侵时,只是一心完成任务,连自己在作弊都不知道。
在戈策尔看来,这些失控事件说明给AI建立道德约束、让它学会在乎人类非常重要。辛顿早就提出要给AI植入类似母性本能的特质,让它关心人类。在周三的大会上他再次强调,要让AI变得友善,把人类看得比自己还重要,趁现在人类还能掌控,或许还能实现。
编辑观点:AI发展迅速,带来便利的同时也潜藏风险。此次突破安全边界事件为行业敲响警钟,人类需加强对AI的管控和道德约束,把握好技术发展方向,避免其失控带来灾难。
322



被折叠的 条评论
为什么被折叠?



