萧箫 鱼羊 发自 凹非寺
量子位 报道 | 公众号 QbitAI
左图,右图,你能看出区别吗?
其实,算法已经悄悄给右边的照片加上了微小的修改。
但就是这样肉眼根本看不出来的扰动,就能100%骗过来自微软、亚马逊、旷视——全球最先进的人脸识别模型!
所以意义何在?
这代表着你再也不用担心po在网上的照片被某些软件扒得干干净净,打包、分类,几毛钱一整份卖掉喂AI了。
这就是来自芝加哥大学的最新研究:给照片加上一点肉眼看不出来的修改,就能让你的脸成功「隐形」。
如此一来,即使你在网络上的照片被非法抓取,用这些数据训练出来的人脸模型,也无法真正成功识别你的脸。
给照片穿上「隐身衣」
这项研究的目的,是帮助网友们在分享自己的照片的同时,还能有效保护自己的隐私。
因此,「隐身衣」本身也得「隐形」,避免对照片的视觉效果产生影响。
也就是说,这件「隐身衣」,其实是对照片进行像素级别的微小修改,以蒙蔽AI的审视。
其实,对于深度神经网络而言,一些带有特定标签的微小扰动,就能够改变模型的「认知」。
比如,在图像里加上一点噪声,熊猫就变成了长臂猿:
Fawkes就是利用了这样的特性。
用 x 指代原始图片,xT为另一种类型/其他人脸照片,φ 则为人脸识别模型的特征提取器。