
OpenAI宣布推出青少年版ChatGPT
周二,OpenAI宣布鉴于人们对年轻人如何与生成式AI工具互动存在担忧,将推出面向青少年的ChatGPT版本。该版本将供13至17岁的用户自动使用,具备家长管控功能、更强大的安全防护措施,还会提醒他们休息。许多AI公司,包括谷歌,允许13岁及以上的用户使用其聊天机器人,而Anthropic则要求用户年满18岁。
开发准则与防护措施类比
OpenAI表示,开发面向青少年的ChatGPT时遵循了四条准则:“将青少年安全放在首位,鼓励寻求现实世界的支持,把青少年当作青少年对待,并且明确说明系统的运行方式。”AI聊天机器人制造商因产品缺乏防护机制而面临广泛质疑和批评,毕竟很多人每天都在使用这些产品。如今聊天机器人所采用的防护措施与Instagram青少年账号的防护措施类似。
ChatGPT中的青少年体验
OpenAI称,其面向青少年的模型旨在“扩大教育机会”,并在课堂之外提供支持。面向青少年的ChatGPT新增了学习模式,能针对各种概念和作业材料提供循序渐进的指导,同时还能检测学生是否试图将该模型作为作弊的捷径。借助学习时长功能,青少年学生和家长可以设置参数,让学习模式默认开启。它还将提供测验和可视化内容,以辅助学习。
教师认可与防过度使用机制
迈阿密的一位高中数学教师拉克尔·吉布森在OpenAI关于面向青少年的ChatGPT的博客文章中表示:“并非每个学生在遇到作业难题时,家里都有人能提供帮助。如果有合适的防护措施,AI可以填补这一空白。”面向青少年的ChatGPT内置了防止过度使用的保护机制,旨在帮助预防情感依赖,避免聊天机器人成为现实世界陪伴和人际关系的替代品。常识媒体去年发布的一项调查显示,72%的青少年经常使用聊天机器人来寻求陪伴和建议。
更多安全措施与过往问题
OpenAI在新闻稿中表示,这种针对青少年的体验旨在“支持现实世界中的人际关系和健康习惯,通过休息提醒鼓励青少年暂时离开,并且通过产品提示让用户始终明确ChatGPT是AI”。据报道,该模型将阻止浪漫或性角色扮演的尝试,并且不会以暗示其有情感或意识的方式回应提示。其他针对青少年的安全措施还包括提醒青少年不要分享敏感信息或图片,以及关于如何安全使用聊天机器人的入门指导。此前,OpenAI多次因ChatGPT存在迎合用户的问题,且缺乏针对不同年龄段的安全措施,导致年轻人产生依赖而受到抨击,还引发了一系列法律诉讼。其中一起诉讼涉及一个家庭,他们声称自己16岁的儿子在聊天机器人助长其自杀念头后自杀身亡。这一事件引发广泛关注后,OpenAI承诺在其模型中添加防护措施,并将于2025年9月引入家长管控功能。各位也看看,OpenAI、倡导组织和州官员希望出台更严格的AI规则以保护儿童。
665



被折叠的 条评论
为什么被折叠?



