近期,《华盛顿邮报》的一篇报道揭示了关于 OpenAI 安全协议的越来越多的指控,这使得这家全球领先的人工智能研发机构再次成为公众关注的焦点。
OpenAI 作为开发具有人类智能的人工智能技术的领军者,近年来一直在不断推进其技术边界。然而,内部员工频频通过新闻和播客表达他们对公司安全性严重担忧的声音。这些声音反映了一个价值 800 亿美元的非营利研究机构在安全测试上可能存在的疏忽。
安全测试遭质疑
《华盛顿邮报》报道称,一位匿名消息人士透露,OpenAI 在确保产品安全之前就匆忙通过了安全测试并举行了庆祝活动。“他们在知道是否安全发布之前就计划了发布后的庆祝活动,”这位匿名员工表示。“我们基本上在流程上失败了。”
安全问题在 OpenAI 中一直占据重要地位,并且问题似乎层出不穷。近期,OpenAI 的现任和前任员工签署了一封公开信,要求公司改善安全性和透明度。不久前,随着联合创始人伊利亚·苏茨克维尔(Ilya Sutskever)的离职,其安全团队也被解散。关键研究员扬·莱克(Jan Leik