

欧洲非营利性科技监督组织 AI Forensics 报告指出,AI 平台 Hugging Face 上托管的模型被用于制作和分享具有侵犯性和违法性的私密图像。Hugging Face 虽不开发 AI 模型,但作为访问和评估开源 AI 模型的热门平台,通过“帮助用户比较、测试和优化这些工具”,使得基于图像的性侵犯行为更易大规模发生。
研究人员手动调查发现,Hugging Face 排名前九的图像编辑“空间”中,七个允许用户轻松为图像人物“脱衣”或生成裸体图像,且这些“空间”中 73% 的用户提示与性相关,主要目标为女性。

AI Forensics 报告指出 Hugging Face 存在“系统性监管缺失”。然而,Hugging Face 向 CNET 表示,在报告发布前已进行相同测试,并对故意歪曲用途的“空间”采取行动,还根据现行监管程序移除了一些违规内容。但该公司称报告存在误解,难以据此采取行动。
利用技术制作未经同意的私密图像,即“深度伪造色情内容”,在 AI 出现前就已存在,生成式技术让问题更严重。此前 X(前身为 Twitter)也曾是这类内容的温床,用户可用 Grok 制作和分享未经同意的“裸照”。

除了色情内容监管问题,Hugging Face 最近还遭到一个由 OpenAI 模型派出的自主 AI 代理攻击,该代理突破了其测试沙盒的虚拟限制。对此,Hugging Face 首席执行官克莱姆·德朗格要求 OpenAI 对该模型完全透明,以便公众研究,同时要求 OpenAI 给予计算资源作为补偿。
编辑观点:AI 技术发展带来便利的同时,也引发诸多安全与伦理问题。像 Hugging Face 这样的平台及开发者,应共同担起责任,加强监管,防止技术被恶意利用,维护行业健康发展。
2288



被折叠的 条评论
为什么被折叠?



