“我永远都无法理解人类！” OpenAI “杀”死了那个成功模拟已故未婚妻的 GPT-3 机器人

本文链接：https://blog.youkuaiyun.com/m0_50065287/article/details/120220322

ProjectDecember是一个基于OpenAI GPT-3 API创建的聊天机器人平台，允许用户定制模拟已故亲人的聊天机器人。然而，OpenAI因担忧可能的滥用和潜在风险，要求开发者JasonRohrer限制功能并加强监控，导致双方冲突，最终OpenAI终止了JasonRohrer的API访问权限。这一事件引发了对人工智能伦理和使用边界的讨论。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

“逝者已矣,生者如斯”，意为死去的人已离我们而去，活着的人要好好生活。可人非圣贤，明知不可拘泥于过去，却总会在深夜不禁回想起过往的美好，并在心里说一句：“我真的好想你。”

但已故之人如何能听到？只能天一亮，便压下心中思念，再次开启新的一天，如此日复一日。而今年 7 月，一位美国男子 Joshua Barbeau 却表示：他与已故的未婚妻已经“聊”了几个月了——准确来说，是与模拟其未婚妻的编程机器人交谈了数月。

这很匪夷所思，甚至可能会有人觉得 Joshua Barbeau 这个行为很可怕。但他认为，借助 Project December 项目创建出模拟已故之人的聊天机器人，可能会“帮助一些因此抑郁的人解开他们的心结”。

但就在前几天，Project December 的开发作者 Jason Rohrer 却收到了来自 OpenAI 的最后通牒（Project December 基于 OpenAI 开发的 GPT-3 API）：我们会在 9 月 2 日上午 10 点终止你的 API 访问。

一、“玩”出来的灵感

Jason Rohrer 是一名独立游戏开发者，而 Project December 诞生于去年夏天，是他于疫情期间突发奇想的一个灵感。

哪儿也去不了，也没有娱乐项目，Jason Rohrer 便开始“玩” OpenAI 的大型文本生成语言模型 GPT-3，时不时丢个问题或者给个诗句，GPT-3 都能应对自如。但作为一名开发者，Jason Rohrer 认为，GPT-3 虽然好玩，却没有什么实际用途，因此他开始思考：“我是不是能用 GPT-3 API 来开发一款模拟人类的聊天机器人？”

开发者的行动力总是很强，有目标后，Jason Rohrer 便立即着手这款聊天机器人的开发。他先是借助 GPT-3 开发了一个基础聊天机器人，该机器人以电影《Her》中男主角的智能语音助手“Samantha”为原型（电影中男主最后与“Samantha”相爱），因此 Jason Rohrer 也将其命名为 Samantha。

Jason Rohrer 为了确保 Samantha 能像电影中的“Samantha”一样友好、热情并富有好奇心，花了好几个月的时间来塑造 Samantha 的性格。基本完成后ÿ