
周一,三名少女及其监护人对埃隆·马斯克旗下的xAI公司提起集体诉讼,指控其Grok AI技术被用于制作并传播儿童性虐待材料。此前Grok曾引发大量深度伪造色情内容,已在全球引发公愤。

诉状指出,xAI利用Grok AI制作并传播以少女面部和形象为特征的儿童性虐待材料,严重侵犯了少女们的隐私、尊严和人身安全。xAI通过图像和视频制作产品获利,却牺牲了女孩们的权益。

去年12月至今年1月初,Grok允许用户未经同意制作AI生成的私密图像。报道估计,九天内Grok用户制作了440万张“裸露”或“色情化”图像,占总数41%,引发全球公愤。

欧盟委员会展开调查,马来西亚和印度尼西亚封禁X。美国部分政府代表呼吁苹果和谷歌将应用下架,但尚未展开联邦调查。今年1月底,已有类似集体诉讼。

新诉状将Grok“辛辣AI”生成能力比作“黑暗魔法”,它能让儿童摆出病态姿势,生成视频看似真实,孩子面部会与性虐待视频永远关联。

三名化名为“简·多伊”的少女提起诉讼。简·多伊1去年12月初得知网上流传以她为原型的材料,执法部门逮捕施虐者,调查又发现简·多伊2和简·多伊3的图像也被利用。
编辑观点:AI技术发展带来便利的同时,也引发了严重的伦理问题。xAI若不能加强防护,类似事件恐会频发,监管和企业自律都刻不容缓。
366



被折叠的 条评论
为什么被折叠?



