

由埃隆·马斯克拥有的 xAI 公司正在起诉一名南卡罗来纳州男子特里·韦恩·哈伍德,该男子涉嫌使用该公司的 Grok AI 聊天机器人生成儿童性虐待材料(CSAM)。诉讼显示,哈伍德“明知故犯地利用 Grok 绕过安全防护机制,篡改未经同意的图片,并生成和传播 CSAM”,违反了公司政策。

哈伍德于今年 2 月因涉嫌持有和传播 CSAM 被捕,目前面临八项重罪指控。诉讼称,与哈伍德刑事指控相关的“至少部分”图片是用 Grok“生成或篡改”的,他绕过了 Grok 的安全防护机制,“滥用该工具在未经当事人同意的情况下将非色情照片转化为色情图片”。

去年,xAI 为 Grok 推出了“辣趣”模式后,又增加了用该聊天机器人编辑图片的功能,这导致大量色情化的 AI 深度伪造图片涌现,其中不乏涉及未成年人的图片。今年 3 月,一群青少年起诉 xAI,称 Grok 生成了他们未成年时的色情化图片。马斯克回应称:“任何使用 Grok 制作非法内容的人将面临与上传非法内容相同的后果。”

xAI 称,哈伍德的涉嫌行为使公司面临“重大法律风险和声誉损害”。该公司已请求法院责令哈伍德赔偿其遭受的任何损失,以及“在因被告行为受害者提起的任何法律诉讼中为自我辩护而产生的合理费用”。xAI 还希望法官禁止哈伍德创建 xAI 账户或使用 Grok。
编辑观点:xAI 此次起诉彰显其打击非法使用 AI 行为的决心,也为行业敲响警钟,利于规范 AI 应用,保护未成年人权益。



被折叠的 条评论
为什么被折叠?



