不知不觉中，AI 技能以各种各样的形式融入了人们的生活，并逐渐赢得了当今人类社会的信赖。但是，这些技能运用起来还是会涌现各种差错。就以我们熟习的“机器视觉识别”技能来举例，它虽然十分耐用且善于捕捉细节，但是间隔百分百精确还是有很长的路要走。近日，谷歌的一款专用于进行机器视觉识别的神经网络就闹出了天算夜的笑话，它将玩具乌龟认成了一杆枪。
这只乌龟可不是一只普通的乌龟，它是由 3D 打印机打印出来的，也是“对抗性图像”的一种实例。这种图像内嵌着一些分外的纹理，是专门用来测试 AI 的视觉辨别精准度的，就犹如“光幻觉”对付打算机一样。我们也可以利用该技能来做出一副“对抗性”眼镜，戴上它，就可以骗过面部识别系统了。虽然对付人类的肉眼来说并没有特殊大的差异，但对付 AI 来说这便有寰宇之别了。
如何肃清“对抗性纹理”对付机器视觉的影响，可以说是近年来比较热门的研究项目了。研究表明，虽然这些纹理对付 AI 影响很大，但是办理这一问题的方法实在很大略。对付“对抗性图像”，我们可以通过放大或者旋转的办法来让 AI 精确地识别出图像的真面孔。但是为什么这只乌龟还是会骗过系统呢？是由于这只乌龟是一个 3D 物体，它身上的“对抗性纹理”对 AI 进行了多角度的滋扰。
研究报告的作者、麻省理工学院（MIT）学生组织 Labsix 在报告中提到：“拿自动驾驶汽车来举例，人类肉眼中的街边小摊，在 AI 视觉中就很可能变成了行人正在横穿马路。‘对抗性纹理’对付 AI 的影相应当得到相应的重视，否则在神经网络的运用中可能会对人类造成很大的影响，乃至带来危险。”Labsix 将他们的方法称为“Expectation over Transformation”，详情可以在他们的报告中参考。除了这只乌龟以外，他们还做出了被 AI 认成茶杯的棒球。
Labsix 将他们做出的“对抗性图像”放在 Inception-v3（谷歌研发的一款图像识别器）下测验。虽说这次测试并不是完备针对机器视觉软件，但是到目前为止，还没有可以完备办理“对抗性图像”问题的方法。谷歌并没有对 Labsix 的报告揭橥任何评论，但是谷歌的一位发言人说，他们的研究员们已经将一些针对“对抗性图像”的办理办法上传至互联网。