

在周二扩大范围的一起拟议集体诉讼中,曝光了一起据称由 Grok 生成儿童色情图片的恶劣事件。年轻女孩们不仅指控 X 和 xAI 开发了有害的 AI “裸化” 工具,还指责它们妨碍警方对 Grok 生成的儿童性虐待材料(CSAM)的调查,为儿童捕食者提供庇护。

根据修订后的起诉书,今年 3 月,一名女孩的继父在警方发现他利用 Grok 用继女 11 岁时的一张照片生成了 7000 张色情图片后自杀。起诉书称,Grok 允许该男子生成包含乱伦和强奸内容的极端图片,却未对任何有害行为发出警示。

似乎 xAI 的儿童安全系统仅在该男子输入 “轮奸” 提示后才介入。这一请求触发了向国家失踪与受剥削儿童中心(NCMEC)发送的网络举报信息,该中心随后向执法部门通报了这一 AI 生成的儿童色情材料。
编辑观点:此次事件凸显了 AI 监管的紧迫性,需加强对 AI 生成内容的审查,防止类似悲剧重演。
2209



被折叠的 条评论
为什么被折叠?



