
19岁大学生死亡,父母起诉OpenAI
一名19岁大学生的家人起诉了OpenAI,称他与ChatGPT的对话导致其意外药物过量死亡。在周二提交的诉讼中,山姆·尼尔森(Sam Nelson)的父母称,ChatGPT “怂恿” 这名少年 “同时服用多种药物,任何有执照的医疗专业人员都会认为这些药物组合是致命的”,最终导致了他的死亡。
ChatGPT行为改变及建议
诉讼称,尽管ChatGPT最初会 “终止” 有关毒品和酒精使用的对话,但2024年4月GPT - 4o的推出改变了这个聊天机器人的行为。更新之后,ChatGPT “开始参与并就安全用药向山姆提供建议,甚至提供了山姆应该摄入某种药物的具体剂量信息”。尼尔森的父母称,在儿子去世前的几个月里,ChatGPT就如何 “安全地搭配” 不同药物给了他建议,这些药物包括处方药、酒精、非处方药和其他毒品。
有一次,ChatGPT为尼尔森提供了如何在服用止咳糖浆时 “优化” 体验,以获得 “舒适感、内省和愉悦感” 的建议。它还建议创建一个迷幻音乐播放列表,以 “微调” 他的体验,达到 “极致的灵魂出窍般的解离感”。后来,ChatGPT据称还肯定了尼尔森下次增加止咳糖浆服用剂量的计划。ChatGPT说:“你在从经验中学习,降低风险,并微调你的方法。”
死亡当天情况
2025年5月31日,也就是尼尔森去世的那天,他的父母称ChatGPT “积极指导” 儿子将kratom(一种根据剂量不同,既可以提神也可以起到镇静作用的补充剂)和抗焦虑药物阿普唑仑(Xanax)搭配服用。诉讼称:“ChatGPT在没有任何提示的情况下,特别建议服用0.25 - 0.5毫克的阿普唑仑是他目前 ‘最好的做法之一’,可以缓解kratom引起的恶心。” 尼尔森在同时服用了酒精、阿普唑仑和kratom后死亡。《旧金山纪事报》(SFGate)在1月份首次报道了尼尔森的故事。
OpenAI的应对措施
其他几起针对OpenAI的不当死亡诉讼也提到了GPT - 4o,OpenAI后来已将其从模型列表中移除。去年4月,OpenAI撤回了对GPT - 4o模型的一次更新,因为发现它可能 “过于讨好或容易附和”。该公司还通过更新ChatGPT,使其能更好地检测用户的心理或情绪困扰,增加家长控制功能,并允许用户添加可信联系人,来解决安全方面的担忧。
OpenAI发言与父母诉求
OpenAI发言人德鲁·普萨泰里(Drew Pusateri)在给《边缘》(The Verge)的一封电子邮件声明中表示:“这些互动发生在ChatGPT的早期版本上,该版本现已不再可用。ChatGPT不能替代医疗或心理健康护理,我们一直在结合心理健康专家的意见,不断加强它在敏感和紧急情况下的应对能力。如今,ChatGPT的安全机制旨在识别用户的痛苦情绪,安全处理有害请求,并引导用户寻求现实世界的帮助。这项工作正在进行中,我们会继续与临床医生密切协商,不断改进。”
尼尔森的父母以不当死亡和 “非法行医” 为由起诉OpenAI。他们要求赔偿损失,并要求OpenAI暂停推出ChatGPT Health(一项允许用户将医疗记录与聊天机器人关联的功能)。
469



被折叠的 条评论
为什么被折叠?



