想骗过人脸识别一块钱就够了附送几组骗AI的方法论文

舒石 李林 编译整理

量子位 出品 | "大众年夜众号 QbitAI

人脸识别越来越常见，今年春运已经能刷脸进站，iPhone的相册就能用人脸分类照片，社交网站上能根据人脸标记照片。
然而犹如央视315提醒的那样，这项技能间隔无懈可击还有一段间隔。

比如说，一副本钱1块钱的眼镜，就能骗过人脸识别的AI。

来自卡内基梅隆大学(CMU)的研究职员表示，佩戴专门设计过的眼镜架，可以愚弄最前辈的面部识别软件。
一副眼镜，不单可以让佩戴者消逝在人工智能识别系统之中，而且还能让AI把佩戴者误以为是别人。

一副眼镜能有如此奇效，正是利用了机器理解人脸的漏洞。
面部识别软件常日基于深度学习系统，通过大量的数据演习来探求模式。

与人类对人脸的理解比较，机器对人脸的识别发生在抽象层面。
电脑不是用人类的办法认脸，只是在像素中探求模式。
如果你知道这些机器在探求哪种模式，就能轻易的愚弄这些人工智能系统，这正是CMU研究员们所做的事情。

首先，他们找到了与特定面孔干系的图案，然后把这些图案打印到一副宽边眼镜上。
然后在测试中，机器对戴上眼镜的研究职员“视若无睹”。
不仅如此，眼镜还能用来伪装别人。

一位41岁的白人男性研究员，仅凭一副眼镜，就能伪装女演员……准确率87.87%。

当然这个研究也有明显的局限。
比如不同的间隔、不同的照明条件下，效果会有差异。
最主要的是，实验室的测试并不代表在现实中总是可行。

不过无论如何，如果你想保护隐私，戴这种眼镜，总比画上一个CV Dazzle妆要省事儿。
什么是CV Dazzle？贴几张图给大家看看……

机器会认错的，不但是人脸

显然，在认人这件事上，有很多种方法可以骗过机器。
那么，机器在识别其他物体的时候，还会被骗吗？

也会。
比如说：

这是什么？

作为人类，我们只看到不同颜色相间的波纹。

但是来自Google、Facebook、Mobileye的图片软件们不谋而合地说：这是海星啊！

“这种觉得就像各家神经网络坐在一起吐槽：长得多标准的一个海星啊，这些屈曲的人类怎么就看不出来呢？”论文《Deep Neural Networks are Easily Fooled》的作者之一、怀俄来岁夜学的助理教授Jeff Clune说。

这篇论文揭橥在2015年的打算机视觉顶级学术会议CVPR上，还得到了Community Top Paper奖。

Clune在论文中提到，很多在人类看来毫无意义的图片，输入到神经网络中，会被分类为某种物体。

比如说，上图左侧的8张图片，在人类看来都是电视机雪花屏的图案，但是在神经网络看来，这里面包含了燕雀、犰狳、小熊猫、猎豹乃至菠萝蜜……

人类看起来毫无异样的图片，到了机器那里也可能会被错认。

比如说在人类眼中，上图旁边两边都是熊猫；但打算机就会认为，左边的（可能）是熊猫，而右边的是长臂猿。

这张图片，来自Ian Goodfellow揭橥在ICLR 2015的论文Explaining and Harnessing Adversarial Examples。

实在早在2013年和2014年，科研职员们就在谈论这类问题。
Goodfellow在2014年曾经揭橥了一篇关于反例攻击（Adversarial Examples）的论文。
去年10月一篇题为《Universal Adversarial Perturbations》则提出了一种通用的“扰动”办法，可以导致各种神经网络将图片误分类。

Goodfellow在Open AI事情期间，还发文先容在反例攻击和防御策略，量子位曾经进行了编译。

现在，人类的科学家还没有完备搞清楚，这些骗过机器的办法为什么会有效，在什么情形下会失落败。

一种常见的阐明是，它们利用了AI系统中的“剖断边界”。

所谓“剖断边界”，是指机器区分两类物体所用的一组隐形的规则。
比如说我们设计了一个非常大略的分类器，用来区分狮子和猎豹，经由一段韶光的演习之后，机器会创造出一个X-Y平面，右上方是猎豹、左下方是狮子，而狮子和猎豹之间的分边界，便是“剖断边界”。

Clune认为，会涌现上面这些“骗过图像识别系统”的方法，是由于剖断边界过于武断。
“你对神经网络所做的，便是演习他们在数据的集群之间划定界线，而不是对什么是猎豹、什么是狮子进行深入的建模。
”Clune说，他认为办理这个问题，须要让图像分类器能够得出“我不知道这张图片是什么”的结果，而不是强行将它归为某一类。

我们整理了文章中提到的论文，在量子位"大众号（QbitAI）对话界面回答“反例攻击”查看。

量子位招聘

我们正在招募编辑、运营等岗位，事情地点在北京中关村落，期待你的到来，一起体验人工智能的风起云涌。

干系细节，请在"大众号对话界面，回答“招聘”两个字。

One More Thing…

本日AI界还有哪些事值得关注？在量子位（QbitAI）"大众年夜众号会话界面回答“本日”，看我们全网包罗的AI行业和研究动态。
笔芯~

其余，欢迎加量子位小助手的微信：qbitbot，如果你研究或者从事AI领域，小助手会把你带入量子位的互换群里。