微软旷视人脸识别100%失灵!北京十一学校校友新研究「隐身衣」,帮你保护照片隐私数据...

芝加哥大学的研究提出了一种名为Fawkes的方法,通过微小的像素级别修改,使照片能骗过全球先进的人脸识别模型,包括微软、亚马逊和旷视的技术。这种方法旨在保护用户在网上分享照片时的隐私,即使照片被用于训练人脸识别模型,也能保持95%以上的防护率,且视觉上几乎无差异。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

萧箫 鱼羊 发自 凹非寺
量子位 报道 | 公众号 QbitAI

左图,右图,你能看出区别吗?

其实,算法已经悄悄给右边的照片加上了微小的修改。

但就是这样肉眼根本看不出来的扰动,就能100%骗过来自微软、亚马逊、旷视——全球最先进的人脸识别模型!

所以意义何在?

这代表着你再也不用担心po在网上的照片被某些软件扒得干干净净,打包、分类,几毛钱一整份卖掉喂AI了。

这就是来自芝加哥大学的最新研究:给照片加上一点肉眼看不出来的修改,就能让你的脸成功「隐形」。

如此一来,即使你在网络上的照片被非法抓取,用这些数据训练出来的人脸模型,也无法真正成功识别你的脸。

给照片穿上「隐身衣」

这项研究的目的,是帮助网友们在分享自己的照片的同时,还能有效保护自己的隐私。

因此,「隐身衣」本身也得「隐形」,避免对照片的视觉效果产生影响。

也就是说,这件「隐身衣」,其实是对照片进行像素级别的微小修改,以蒙蔽AI的审视。

其实,对于深度神经网络而言,一些带有特定标签的微小扰动,就能够改变模型的「认知」。

比如,在图像里加上一点噪声,熊猫就变成了长臂猿:

Fawkes就是利用了这样的特性。

用 x 指代原始图片,xT为另一种类型/其他人脸照片,φ 则为人脸识别模型的特征提取器。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值