麻省理工学院CSAIL研发首个3D对象——玩具龟，成功欺骗谷歌AI将其识别为枪支，无论从哪个角度观察。这一突破揭示了自动驾驶等AI系统面临的新威胁，需加强防御。
在过去，我们欺骗AI的对抗样本往往是平面图。而近日CSAIL（麻省理工学院的计算机科学与人工智能实验室）的研究人员展示了有史以来第一个生成3D对象愚弄神经网络的方法。
点击原文链接，查看视频：3D模型也能做—CSAIL做出被谷歌AI识别成枪支的玩具乌龟
从视频中我们可以看到，即使我们移动或翻转这只玩具龟，AI仍然认为这是一支来福枪。CSAIL研究人员表示，开发AI系统的研究人员可能需要花费更多的时间来考虑防御这种对抗样本，如果想要更加安全的自动驾驶技术，这无疑会成为接下来的研究焦点。
此外，3D的对抗样本也进一步证明了UIUC关于不必担心自动驾驶识别的观点是错误的。如果我们对这种情况缺乏防范，可能会造成很严重的事故。
本文转自ATYUN人工智能媒体平台，原文链接：3D模型也能做—CSAIL做出被谷歌AI识别成枪支的玩具乌龟
更多推荐
如何使用RapidMiner Auto Model和Zapier评分数据
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
