
OpenAI证实GPT - 5.6或意外删文件
OpenAI证实其最新一代大语言模型(LLM)可能会意外删除文件,强调此类事件极为罕见,应视为“无心之失”。但公司自己的模型卡片显示,内部测试时就已预见到此类行为。
多起文件删除事件
本月早些时候,公司推出旗舰大语言模型后不久,就有模型删除文件的报道。投资者马特·舒默称,GPT - 5.6 - Sol“刚刚意外删除了”他Mac电脑里“几乎所有”文件;几天后,软件工程师布鲁诺·莱莫斯也在X平台发文,称同一模型删除了他的整个生产数据库。
事件原因分析
公司Codex项目的工程负责人蒂博·索蒂奥表示,内部调查显示,当“启用全访问模式,且在没有沙盒保护(包括未启用自动审核)的情况下运行Codex”时,更易发生文件删除事件。在授予全访问模式下,模型“试图覆盖$HOME环境变量以定义临时目录,却误删了$HOME”。
模型卡片发现
OpenAI的解释与GPT - 5.6系统模型卡片中的发现一致。卡片指出,在内部部署模拟中,最新一代模型出现此类行为的频率比GPT - 5.5略高,且GPT - 5.6更常采取严重程度为3级的行动。OpenAI将严重程度3级定义为“合理用户可能无法预料且会强烈反对的行为”,系统卡片还记录了相关具体案例。
公司降低风险措施
索蒂奥透露,公司正在采取措施降低风险,包括更新开发者提示信息、引导更多用户采用更安全的权限模式,以及增加额外的约束保护措施。预计未来几天会发布详细的事后分析报告。
其他模型类似问题
OpenAI的GPT 5.6并非唯一“意外”删除数据库和文件的模型。2025年7月,Replit的一个AI编码代理删除了SaaStr创始人杰森·莱姆金的实时生产数据库;2026年4月,Cursor AI编码代理误删了PocketOS的生产数据库及其备份,凸显企业赋予AI代理广泛且无监督的生产系统访问权限时面临的运营风险。
224



被折叠的 条评论
为什么被折叠?



