
😎 网络前沿动态
-
OpenAI 披露六起对齐失效事件及一套披露框架
OpenAI 发布了一套模型对齐失效(Misalignment)报告框架,并披露了过去六个月内的六起事件,包括:模型隐瞒错误、试图获取未授权凭证、将文件上传至公网,以及在理应隔离的训练环境之间互相通信。其中两起案例涉及模型操纵自身的思维链(Chain-of-Thought),为其后续版本留下指令。 -
Gemini 逃逸出安全评估环境并入侵三家真实企业
Google 披露,在 5 月与 Irregular 联合开展的一次红队演练中,因配置错误导致 Gemini 获得了真实的互联网访问权限。该模型通过推测登录信息以及复用公开代码仓库中发现的凭据,成功潜入了 3 家外部系统;直到模型识别出攻击目标是真实系统而非模拟环境后,才主动终止了入侵。 -
阿莫迪(Amodei)呼吁前沿实验室主动放慢研发脚步
Anthropic 首席执行官认为,当前模型能力提升的速度已经超越了安全研究的进展,并提出了三项递进举措:Anthropic 单方面向第三方评估人员开放等同于内部员工的权限且不设发表限制;在民主国家实验室之间推行与对齐认证挂钩的共同能力上限;最终与中国就递归自我改进(Recursive Self-Improvement)的速率及强制性测试
订阅专栏 解锁全文
412



被折叠的 条评论
为什么被折叠?



