还记得不久前在欧美再次走红的AI视频换脸吗？一款名为Deepfake的工具，能够利用人工智能算法，将一个人的脸合成到另一个人的视频中，当用来演习的数据足够多，干系打算能力足够强大时，人们很难直接辨别视频的真伪。
昨天一天，朋友圈涌现了大量被“换脸”的短视频。网友们纷纭将自己的脸换到黄晓明、肖战、沈腾等明星身上，成了《中餐厅》《陈情令》《羞羞的铁拳》等热门节目和影视剧里的一员。
AI视频换脸这股风彻底刮到了海内，也带来了一系列关于版权、隐私权、安全等问题的拷问。此前这项技能就已经被不法分子利用，成为滋长色情黑产的温床。
上传照片完成脸部的“移花接木”
这些视频是通过一款名为ZAO的软件制作完成。用户下载完软件后，选择自己心仪的视频，找到想要更换的那个角色，按照哀求上传或自拍清晰度较高、光芒较好的照片之后，再通过后台制作，就能完成“换脸”的全过程，顺利的时候只要5-10秒，十分方便。
昨天一天，我的朋友圈不断有人上传自己的换脸视频。目前，ZAO上有数百个可以用来换脸的片段，涉及浩瀚热门IP。如果你乐意，可以把自己变成《西游记》里的唐僧，《长安十二时辰》里的李必。除了造视频外，ZAO还能够制作表情包，带有社交分享功能。
从合成效果看，ZAO确实比之前主打类似功能的软件要好。特殊是正脸的状态下，一些视频足以“以假乱真”，但在侧脸以及角色远间隔识别上还有所欠缺。
其余，目前这款App不支持用明星换脸。比如，我试图上传好莱坞影星“小李子”的照片进行合成，系统会提醒检测到公众年夜世人物，除非自拍进行肖像验证，否则不能直接合成。这一定程度上保护了明星的肖像权。
从苹果商店的资料来看，ZAO的研发方是长沙深度领悟网络科技有限公司。天眼查资料显示，这家公司的法定代表人是雷小亮，监事是王力。两人的其余身份分别是陌陌公司联合创始人兼游戏业务部总裁，以及陌陌公司董事、总裁及COO。因此，这款软件很有可能和社交平台陌陌有关系。
昨天，也有媒体表示，这个项目由陌陌CEO唐岩主导，2019年春节后立项，已经推出过几个版本，没想到在这个韶光点爆发。由于大量新用户的拥入，从前天凌晨开始，ZAO的做事器就处于半瘫痪状态，体验也没有一开始那么顺畅。
算法2017年就有
杭州也有团队摸索了小半年
对海内网民来说，AI换脸这种形式并不新鲜。今年年初，B站UP主“换脸哥”发布的一段94版射雕英雄传视频。把原来饰演黄蓉的朱茵的脸换成了杨幂。从流出的视频和动图来看，虽然是用AI合成，整体效果十分逼真。
“换脸哥”用的技能便是来自于美国的Deepfake。虽然ZAO到目前为止还没有先容自身技能，但很大可能也和Deepfake有关。
早在2017年，一位名叫Deepfake的用户上传了一种新的色情视频，将色情明星的面孔换成名人面孔，一下子引起了轩然大波。后来网友为了纪念这项技能，直接将其命名为Deepfake。2018年，Deepfake的算法在GitHub上发布，成了完备开源的项目，任何拥有足够专业知识和足够配置打算机的人都可以制作类似的虚假视频。
杭州手滑科技的技能团队最早打仗Deepfake是在去年年底，当时内部还谈论过这一技能商业化的能力。今年4月，他们正式将AI视频换脸立项，起因是横店影视城希望授予传统穿龙袍拍照的旅游项目更多科技感。
“实际上，从去年开始海内很多团队都在基于Deepfake做开拓和商业化，只不过都没有ZAO效果那么好。”手滑科技的技能主管表示，现在自己产品的换脸效果也无法达到ZAO的水平，“ZAO背后的技能很有可能也和Deepfake有关，由于有大资金支持，发展非常快。”
在事理上，Deepfake利用的是最有名的深度学习算法之一GANs。GANs全称为天生式对抗网络，由今年34岁的IanGoodfellow在2014年发明。今年3月份，被称为“GANs之父”的IanGoodfellow从谷歌跳槽到苹果。
大略来说，Deepfake技能依赖两个人工智能相互“斗殴”完成。一个造假，一个鉴别，然后反复在细节上“去伪存真”，直到卖力鉴别的那个人工智能无法辨别造假视频。除了视频，GANs的算法还能用到声音、图像等多个领域。
AI换脸滋长黑产美国正在加强对AI被滥用的监管
对付Deepfake，杭州某大学的一名大四男生奇哥并不陌生。去年年末，他在一个交流技能的微信群里，就收到过群友发的AI换脸不雅观观视频，一如当年Deepfake在欧美的走红。
“发的人说里面女主角是当红女明星，当时特殊好奇，就点进去看了。”奇哥表示，视频韶光很短，只有30秒，“内容有点露骨，但是能清晰地看到那个女明星的脸，如果不是后面知道了Deepfake，还以为是真的。”
在网上，Deepfake迅速被一些不法分子利用，形成了制作、发卖不雅观观视频的家当链。也便是在一个月前，我曾在一个二手交易平台创造，有人在售卖Deepfake的教程，详细到该用什么配置的电脑进行操作，还供应云做事器的租赁做事，减轻电脑压力。一位卖方见告我：“能将你想要的脸换到你想要看的任何视频上。没什么门槛，大家都可以玩。”
更有甚者，一些不法分子在私下发卖完成换脸的不雅观观视频，比如花上100元就能打包200部视频，险些席卷了海内一二线女明星。之后由于干系宣布，一些平台下架了教程和视频，但在网上还是能够找到。
昨天，我在一个电商平台搜索AI换脸干系软件时，就创造有商家发卖Deepfake干系教程，价格在5到10元不等，销量最高的一家店已显示有41人付款。在这家店的详情页上，商家用红底白字写了一个声明：由于软件功能强大，任何视频都可以换脸！
严禁用于不正当目的！
对付这项技能和不法分子的做法，好莱坞女明星斯嘉丽·约翰逊就表示：“什么也阻挡不了这些人把我的图片复制粘贴到另一个人的身体上，并且让它看起来逼真得恐怖。”
目前，针对Deepfake带来的负面影响，欧美等国家已经展开了行动。美国《通信规范法》第230条规定：“交互式打算机做事供应者或利用者，就非出于己的信息内容，不应被视为内容的出版人即揭橥人。”据国外媒体宣布，这条规则可能由于Deepfake而改变。
其余，美国议员正在起草法案，涉及全体AI家当的监管，从上到下都必须参与个中。由于AI换脸已经影响到美国政坛，美国国防高等研究操持局为此设立了“媒体鉴证”项目，以开拓能识别Deepfake的工具，项目最初旨在实现现有鉴证工具的自动化，后来将终点转向了人工智能天生的虚假视频上。
昨天，ZAO走红的同时也引发了关于隐私、版权、安全等问题的谈论。许多人第一韶光尝鲜，并没故意识到在点击注册的同时，和ZAO所属公司签订了“不平等条约”。引发更大谈论的是安全性，在人脸可以作为支付工具确当下，一家公司如果节制了人脸数据，是不是相称于有了打开你银行账户的密码？首席梁应杰
霸道到无理的用户协议
昨天，我下载体验完ZAO之后，试图删掉自己用于体验的照片，创造只能用新的脸部照片代替，不能直接删除。同样，我也无法注销ID，意味着我的脸只能诚笃待在ZAO的后台。
这本来也没什么太大问题，直到我看到一份用户协议。内容是，一旦利用了ZAO，就默认“赞许或者确保肖像权利人赞许付与‘ZAO’及其关联公司环球范围内完备免费的、可以对用户内容进行部分的修正或编辑（如将短视频中的人脸换成另一个人的人脸等）以及对修正或编辑前后的用户内容进行信息网络传播的权利”。
什么意思呢？便是ZAO拿了用户的肖像之后，可以免费利用并修正，还可以随意在网上进行传播。
这还没完，实在ZAO能在短期内走红，和它平台上大大小小数百个有趣的短视频有关，所有换脸都是基于这些短视频进行再合成。问题是，ZAO是否拥有这些视频的版权呢？要知道，之前一度火遍全网的App小咖秀就曾由于版权问题被判赔偿。
令我没想到的是，ZAO用了一个不讲理的办法“办理”了这一问题。用户协议规定：“在您利用‘ZAO’供应的技能做事在‘ZAO’内把用户内容中的人脸换成您或其他人的脸时，您赞许或确保肖像权利人已经赞许付与‘ZAO’利用‘ZAO’的技能做事对您的或其他人的人脸进行处理，但仅为与用户内容合成为新的内容。”
把稳“肖像权利人”这个词，换句话说，我在把我的脸换到沈腾脸上的时候，得确保沈腾已经赞许这一行为。相称于变相把侵权的问题甩给了用户。
可能还嫌这样不保险，用户协议还在“内容发布规范”里进一步规定，如果用户有相应的侵权行为，应该独立承担法律任务并承担危害赔偿任务，“ZAO”及其关联公司遭受丢失的，也应该一并赔偿。
也即是，沈腾如果由于肖像权向我提起诉讼，那任务就全在我这边，与ZAO无关。
在北京炜衡（成都）状师事务所专职状师“法山叔”看来，ZAO这样的用户协议已经涉嫌过度攫取用户授权，让用户在无形中将自己的肖像权拱手让人，同时将变脸涉嫌侵权的风险也转嫁给了用户。
目前不必担心支付安全
在看到AI换脸视频疯转的同时，也有人担心自己的高清晰度、光芒良好的照片被平台获取，是否会存在被拿去盗刷的风险，毕竟现在大街小巷都有刷脸支付的机器。
针对此事，昨天中午支付宝官方回应，目前网上各种换脸软件有很多，但不管换得有多逼真，都是无法打破刷脸支付的。他们表示，“刷脸支付”采取的是3D人脸识别技能，在进行人脸识别前，也会通过软硬件结合的办法进行检测，来判断采集到的人脸是否是照片、视频或者软件仿照天生的，能有效避免各种人脸假造带来的身份冒用情形。
昨天，就人脸被冒用一事，我也找了杭州本地一家做金融安全的公司。对方表示，目前大部分和金融干系的人脸识别，用的都是安全级别较高的软硬件，很大程度上避免活体检测、视频攻击等带来的风险，“但换脸的技能也在不断更新，这样的威胁会一贯存在。”
目前，在手机银行端，人脸也多为赞助认证的功能，真的涉及大额消费和转账，也还是以短信等其他认证工具为主。
AI换脸看上去越来越危险了
事实上，这已经不是AI换脸在海内首次造成惶恐。早在2017年，一场热闹的“全民军装照”活动就曾陷入人脸隐私透露的质疑中。有人认为用户上传照片，制作军装照的过程中，被哀求获取一些授权，很有可能被别人利用，带来丢失和不利的影响。
后来，推出这项活动的《公民日报》和腾讯团队出面解释，也平息了用户心中的惶恐。但环绕在人脸识别和人脸隐私安全上方的阴云始终未散去，特殊是在人工智能参与后，让AI换脸看上去越来越危险了。
比如今年6月初，一段有关facebook创始人马克·扎克伯格的假视频在instagram和facebook上广为流传。视频中的人穿着和扎克伯格一样的衣服，从容貌到举止都跟扎克伯格几无二致，只是声音有些奇怪。
险些在同一韶光，职场社交平台领英上还涌现了一个疑似特工的账号。她的名字是KatieJones，头像是一个范例的白人女性，有着显赫的履历。但实际上，无论从哪段经历入手，都查不到她在现实天下留下的足迹，而关注她的人里包括了不少政要和专家。经由调查创造，她的脸很可能是用AI合成的。
一个事实是，Deepfake的算法来自于对抗神经网络GANs。据DeepTrace平台统计，2018年，环球涉及到GANs天生图像和视频的论文多达902篇，而研究如何识别合成图像和视频的论文只有25篇，仅为前者的1/36。
这意味着大部分技能团队都在让AI“以假乱真”的事情上投入精力。而故意无意地将照片和自拍上传到各种平台上的我们，实际上也为AI的发展供应了帮助。