

OpenAI为ChatGPT推迟推出的“成人模式”,上线时仅支持成人主题的文字对话,不会开放聊天机器人生成图片、语音或视频的功能。该功能所提供的内容属于成人话题文本,而非色情内容,允许ChatGPT用户进行成人主题的文字聊天。

这一功能最初于10月公布,原本预计本季度推出,但OpenAI本月早些时候表示为专注更重要任务而推迟,且未公布新发布时间。推迟源于公司内部对功能安全保障的担忧以及技术难题。今年1月顾问委员会警告,成人模式可能被儿童访问,还可能导致用户对聊天机器人产生不健康情感依赖。
内容审核问题也是关键因素。OpenAI在放宽ChatGPT对不适宜内容(NSFW)的限制时,难以避免出现更有害场景,如描绘非自愿行为或儿童性虐待的内容。此外,其年龄预测系统会将约12%的未成年人误判为成年人,考虑到ChatGPT每周约1亿18岁以下用户,这可能使数百万未成年人参与成人对话。

仅支持文字对话的设定让OpenAI更易应对类似英国《在线安全法案》的规定,该法案要求在线平台对色情图片进行年龄验证,对成人文学内容无此要求。这与竞争对手的AI产品形成对比,例如xAI的格罗克(Grok)推出“火辣”陪伴模式,上周埃隆·马斯克宣布格罗克的图像和视频生成器可输出“R级电影允许的内容”。

ChatGPT成人模式的推出若成功,可能吸引一部分有成人话题交流需求的用户,拓展用户群体。但目前的推迟以及存在的安全和审核问题,可能会影响用户对其安全性和可靠性的信任。同时,与竞品不同的功能设定也会影响其在市场中的竞争力和定位。

未来,OpenAI在成人模式产品线迭代上面临诸多挑战。要解决年龄预测系统的误判问题,完善内容审核机制,避免有害内容出现。在商业化方面,成人模式若能成功推出并解决相关问题,可能为ChatGPT带来新的盈利点,例如通过会员订阅等方式。但也需谨慎平衡商业化与社会责任,避免引发社会争议。
编辑观点:ChatGPT成人模式推迟凸显安全与审核难题,未来需解决技术与伦理问题。虽有商业化潜力,但要在社会责任与盈利间找到平衡,否则可能影响品牌形象与市场竞争力。
349



被折叠的 条评论
为什么被折叠?



