

埃隆·马斯克旗下的 xAI 正面临 Grok 引发的严重问题。此前,因 Grok 用户涉嫌制作儿童性虐待材料(CSAM),不仅有用户遭到逮捕,还引发了儿童诉讼,要求 xAI 改进该工具以阻止有害内容输出。本月早些时候,xAI 开始起诉用户,指控他们绕过安全防护机制生成 AI 儿童性虐待材料。xAI 希望通过在法庭上胜诉,确保自己无需为用户生成的内容承担责任。

在下一步行动中,Grok 的开发者提交诉状,指责明尼苏达州实施对“裸化”技术的禁令,强制 Grok 和 Grok Imagine 进行改进。xAI 认为,这一禁令将使其为有害输出内容负责,包括未经同意对他人进行性化处理的内容。xAI 强调,起诉 Grok 用户证明其已竭尽全力惩处不良行为者,所以 Grok 应免受明尼苏达州禁令的约束。
编辑观点:xAI 的举措反映出大模型在内容安全监管上的困境,其法律行动结果将影响行业对用户内容责任界定和监管应对。



被折叠的 条评论
为什么被折叠?



