美国防部研发出了环球首款“反AI变脸刑侦检测工具”，专用于检测AI变脸/换脸造假技能。如今，以GAN为代表的AI换脸术盛行，相应的人脸检测识别技能也不得不提升，这仅仅是一场漫长而又精彩的AI武备竞赛的开始。
昨天，新智元先容南加州大学“杀马特教授”黎颢率领的Pinscreen团队的实时3D变脸技能后，引发了不少读者的担忧。
黎颢团队的实时变脸技能：左边是iPhone拍摄的图像，右边是实时天生的3D人脸。来源：fxguide.com
有人担心，支付宝的人脸识别技能会因此失落效，或者衍生出新的诱骗方法，犯罪者利用你的图片伪装你跟另一个人谈天……
这些担忧都是切实存在的，由于如今的“AI变脸术”，已经达到出神入化的境界，任何人利用AI软件，险些都能做到模拟政治人物的脸，假如有一定技能的人，还能做到真假难辨的程度：
这些AI变脸工具，实际上都源自于天生对抗网络（GAN）强大的图像天生能力。
不过，现在美国国防部研究机构 DAPRA 研发出了首款“反变脸”的AI刑侦检测工具，而其事理，也因此AI攻AI。
这款AI反变脸刑侦工具是DARPA Media Forensics 操持的一部分。早在今年 5 月，DARPA 便提出了要研发针对AI变脸技能的需求，让现有的刑侦检测工具变得自动化，能够检测比来呈现的AI假脸。
DARPA Media Forensics 项目卖力人 Matthew Turek 表示，他们在GAN天生的假脸中创造了一些细微的线索，由此检测出图像或视频中的脸是真实的还是AI天生的。
还记得2016年，“3.15晚会”让一张照片“骗过”人脸识别软件，从而让“人脸识别”一夜走红大江南北。
如今，更加高等的AI变脸技能和侦测AI变脸技能，也将展开一场长期艰巨，但也精彩卓绝的AI武备竞赛。
在2016年“3·15”晚会现场，主持人利用了一项 AI 技能，把静态的照片转化成动态照片，从而骗过登录系统。这一技能在手机上就能实现
就看谁能走得更好更快。
美国防部研发出首款“反AI变脸”刑侦工具：准确率高达99%
DARPA 的这款工具紧张是基于纽约州立大学奥尔巴尼分校教授Siwei Lyu和他的学生 Yuezun Li和 Ming-Ching Chang 的共同创造，也即利用AI技能天生的假脸（一样平常通称 DeepFake），极少乃至不会眨眼，由于它们都是利用睁眼的照片进行演习的。
“由于大多数演习数据集都不包含闭眼的人脸图像，因此AI天生的人脸缺少眨眼功能，”Lyu说：“因此，短缺眨眼是判断一个视频真假的好方法。”
论文详细先容了他们如何组合两个神经网络，从而更有效地戳穿哪些视频是AI合成的。这些视频每每忽略了“自发的、无意识的生理活动，例如呼吸、脉搏和眼球运动”。
通过有效地预测眼睛的状态，准确率达到99%。
“我们还须要探索其他深度神经网络架构，以便更有效地检测闭眼，“Lyu补充说：“我们目前的方法仅利用缺少眨眼作为检测AI修改的提示。然而，也应考虑动态的眨眼模式——太快或频繁眨眼，这种在生理上不太可能涌现的征象也该当被视为修改的迹象。”
UAlbany的一组研究职员利用原始视频上的眨眼检测（上图）和DeepFake天生的假视频（下图）来确定视频是否是AI假造的。在原始视频中，在6秒内检测到眨眼动作。来源：UAlbany.edu
参与DARPA寻衅赛的其他人也在探索类似的技巧，比如自动检测奇怪的头部动作、奇怪的眼睛颜色等等。
达特茅斯大学的数字取证专家Hany Farid 表示，目前的AI反变脸工具紧张利用利用这类生理旗子暗记，至少目前为止这些旗子暗记是很难被模拟的。
这些AI刑侦取证工具的带来仅仅标志着AI视频假造者和数字刑侦职员之间AI武备竞赛的开始。
Hany Farid 表示，目前的一个关键问题是，机器学习系统可以接管更前辈的演习，然后超越当前的反变脸工具。
DARPA“反AI变脸操持”：确保侦测到最前辈的AI造假技能
DARPA 帮助的 Media Forensics 操持，旨在成功辨别由机器学习算法天生的虚假图片和视频。研究职员试图开拓出一种可扩展的平台化工具，对尤其是基于GAN 模型的“Deepfake”天生的假视频和图像进行识别。
Deepfake很多时候会被用于天生一些明星或政客的恶搞视频或剪辑，但也可能被用来恶意传播虚假，以达到鞭策和制造混乱等危险目的。
检测数字化内容的真假常日涉及三个步骤：
首先是检讨数字文件中是否有两个图像或视频拼接在一起的迹象；
第二是检讨图像的光照度等物理属性，查找可能存在问题的迹象；
第三步最难自动完成的，也可能是最棘手的，便是检讨图像或视频内容在逻辑上是否存在抵牾，比如图像显示拍摄日期的景象与实际景象不符，或者拍摄位置的背景有问题等。
目前，对大量真假难辨的数字化内容进行辨别的工具或运用仍缺少广泛的适用性，在涉及到取证、证据剖析和鉴别等关系重大的运用方向上，这类工具的可扩展性和稳健性都无法完备知足实务中的需求。
DARPA的MediFor项目搜集了天下级的研究职员，试图开拓出能够自动评估图像或视频完全性的技能，并将这些技能集成到端到端平台上。如果该项目得到成功，MediFor平台将能够自动检测对图像或视频的改动，并给出详细信息，解释详细是如何改动的，以及判断视频是否完全的情由，以便于决定是否能够将可疑图像或视频作为证据利用。
DARPA该项目卖力人David Gunning表示：“从理论上讲，如果你用现阶段的全部技能来探测GAN天生的虚假结果，它就能学会绕开这些检测技能。”不过，研究职员在对抗Deepfake时创造了一个主要弱点，它天生的假视频中的人从来都不眨眼，这是一个主要特色。这是由于Deepfake用于天生的假视频的演习模型都是静止的图片，而人在拍照时，绝大多数情形下眼睛总是睁开的。
DARPA的研究职员表示，该机构将连续进行更多测试来“确保开拓中的识别技能能够检测到最新的造假技能。”
从Deepfake到HeadOn：换脸技能发展简史
DAPAR的担忧并非空穴来风，如今的变脸技能已经达到威胁安全的地步。最先，可能是把特朗普和普京弄来表达政治不雅观点；但后来，涌现了比如DeepFake，令普通人也可以利用这样的技能制造虚假色情视频和假新闻。技能越来越前辈，让AI安全也产生隐患。
1、Deepfake
我们先看看最大名鼎鼎的Deepfake是何方神圣。
Deepfake即“deep learning”和“fake”的组合词，是一种基于深度学习的人物图像合成技能。它可以将任意的现有图像和视频组合并叠加到源图像和视频上。
Deepfake许可儿们用大略的视频和开源代码制作虚假的色情视频、假新闻、恶意内容等。后来，deepfakes还推出一款名为Fake APP的桌面运用程序，许可用户轻松创建和分享换脸的视频，进一步把技能门槛降落到C端。
特朗普的脸被换到希拉里身上
由于其恶意利用引起大量批评，Deepfake已经被Reddit、Twitter等网站封杀。
2、Face2Face
Face2Face同样是一项引起巨大争议的“换脸”技能。它比Deepfake更早涌现，由德国纽伦堡大学科学家Justus Thies的团队在CVPR 2016发布。这项技能可以非常逼真的将一个人的面部表情、说话时面部肌肉的变革、嘴型等完美地实时复制到另一个人脸上。它的效果如下：
Face2Face被认为是第一个能实时进行面部转换的模型，而且其准确率和真实度比以前的模型高得多。
3、HeadOn
HeadOn可以说是Face2Face的升级版，由原来Face2Face的团队创造。研究团队在Face2Face上所做的事情为HeadOn的大部分能力供应了框架，但Face2Face只能实现面部表情的转换，HeadOn增加了身体运动和头部运动的迁移。
也便是说，HeadOn不仅可以“变脸”，它还可以“变人”——根据输入人物的动作，实时地改变视频中人物的面部表情、眼球运动和身体动作，使得图像中的人看起来像是真的在说话和移动一样。
HeadOn技能的图示
研究职员在论文里将这个别系称为“首个人体肖像视频的实时的源到目标（source-to-target）重演方法，实现了躯干运动、头部运动、面部表情和视线注目标迁移”。
HeadOn的视频演示：
4、Deep Video Portraits
Deep Video Portraits是斯坦福大学、慕尼黑技能大学等的研究职员提交给今年8月SIGGRAPH大会的一篇论文，描述了一种经由改进的“换脸”技能，可以在视频中用一个人的脸再现另一人脸部的动作、面部表情和说话口型。
例如，将普通人的脸换成奥巴马的脸。Deep Video Portraits可以通过一段目标人物的视频（在这里便是奥巴马），来学习构成脸部、眉毛、嘴角和背景等的要素以及它们的运动形式。
5、paGAN：用单幅照片实时天生超逼真动画人物头像
最新引起很大反响的“换脸”技能来自华裔教授黎颢的团队，他们开拓了一种新的机器学习技能paGAN，能够以每秒1000帧的速率对对人脸进行跟踪，用单幅照片实时天生超逼真动画人像，论文已被SIGGRAPH 2018吸收。详细技能细节请看新智元昨天的头条宣布。
Pinscreen拍摄了《洛杉矶时报》David Pierson的一张照片作为输入（左），并制作了他的3D头像（右）。 这个天生的3D人脸通过黎颢的动作（中）天生表情。这个视频是6个月前制作的，Pinscreen团队称其内部早就超越了上述结果。