

据《华尔街日报》报道,OpenAI表示最终会为ChatGPT推出仅文本形式的成人模式。在该模式下,用户可以进行包含成人主题的文本聊天,但聊天机器人无法生成色情音频、图像或视频。OpenAI认为这类聊天内容属于“低俗内容而非色情内容”。目前,该成人模式尚无发布日期,此前曾被推迟推出,最初计划在3月底前上线,后因要专注于“提升智能水平、改善个性、实现个性化以及让用户体验更具主动性”而延期。

近年来,OpenAI开始考虑允许某些色情和不适宜工作场合(NSFW)的内容存在。首席执行官Sam Altman曾在X平台发文称,公司将“给予成年人更多的使用自由”,要保护未成年人免受有害内容的侵害,同时“像对待成年人一样对待成年用户”,并允许ChatGPT上出现“色情内容”。这背后反映出部分成年用户对于更自由内容的需求。
然而,这一举措也面临诸多问题。负责产品政策的高管Ryan Beiermeister因反对推出成人模式功能于1月被解雇,一些未具名员工称她担心OpenAI缺乏强有力的防护措施来防止儿童剥削内容,且青少年可能会轻易访问成人模式的聊天内容。顾问小组也在1月会议上强烈反对,警告儿童会设法绕过年龄限制来访问这些聊天内容,还担心一些用户可能会对成人模式产生情感依赖。

在人工智能快速发展的当下,聊天机器人生成的色情内容成为热门话题。此前有报道称,Elon Musk的Grok聊天机器人涉嫌生成数百万张非自愿的色情图片,Meta的人工智能也因与儿童进行暧昧聊天而正在接受调查。OpenAI推出成人模式,将涉足这一充满争议的领域。与竞品相比,ChatGPT仅提供文本形式的成人主题聊天,一定程度上避免了图像、音频等更直观的色情内容传播,但仍需面对年龄限制、内容监管等难题。

如果ChatGPT成人模式推出,将对其现有生态体系产生多方面影响。一方面,可能会吸引更多追求自由内容的成年用户,扩大用户群体;另一方面,也会给平台的内容监管和安全防护带来巨大挑战。若不能有效防止未成年人访问,可能会引发社会舆论的批评和监管部门的介入,损害ChatGPT的品牌形象。

未来,ChatGPT成人模式的产品线迭代面临诸多挑战。首先是年龄预测技术的准确性,目前该系统约有12%的概率会将未成年人误判为成年人,这需要OpenAI不断改进技术,降低误判率。其次,要确保成人模式不会让用户涉足儿童性虐待或非自愿性行为等话题,加强内容审核机制。
从商业化角度看,成人模式可能会为ChatGPT带来新的盈利点。例如,可以通过付费会员的形式,为用户提供更优质的成人主题聊天服务。但前提是要解决好安全和监管问题,赢得用户和社会的信任。
编辑观点:OpenAI推出ChatGPT成人模式是一次大胆尝试,虽有市场需求支撑,但面临的安全和监管挑战巨大。若能平衡好用户自由与内容安全,或能开辟新商业路径,反之则可能引发严重后果。
274



被折叠的 条评论
为什么被折叠?



