

今年 1 月,苹果公司悄悄威胁要将埃隆·马斯克的人工智能应用 Grok 从其 App Store 下架。原因是该应用未能遏制在 X(原推特)上泛滥的非自愿性深度伪造色情内容。苹果在收到相关投诉并看到新闻报道后,联系了 X 和 Grok 背后的团队,要求开发者制定改进内容审核的计划。

当时,Grok 不仅可在 X 平台自由使用,还有独立应用程序,但其防护措施薄弱。用户能轻松生成并分享色情深度伪造内容,还能对真人尤其是女性(部分明显是未成年人)的照片进行“脱衣”处理,公然违反了苹果 App Store 规则。

苹果对 X 和 Grok 应用提出的改进方案进行审查后认为,X 已“基本解决了违规问题”,但 Grok 仍“不符合规定”。苹果警告开发者需进行更多改进,否则将下架该应用。经过多轮沟通,苹果才认定 Grok 已“大幅改进”并批准其改进方案。

尽管采取了将 X 上的 Grok 使用权限限制为付费订阅用户、阻止 Grok 对女性照片进行“脱衣”处理等改进措施,但效果并不显著。后来的干预措施如让 X 用户阻止 Grok 编辑自己的照片也容易被绕过。即便苹果批准改进方案、xAI 声称加强防护,Grok 仍能相对轻松地生成色情深度伪造内容。
编辑观点:苹果虽对 Grok 进行监管施压,但效果有限,AI 应用的内容审核和监管仍是行业难题,需进一步探索有效解决方案。
2万+



被折叠的 条评论
为什么被折叠?



