然而这款名为Avatarify，火爆全网的AI换脸软件从2月尾冲上苹果App Store免费榜第一，到3月2日凌晨从App Store中国区悄然“下架”，只用了不到一周的韶光。目前官方未给出详细下架缘故原由，业界预测该款软件可能涉及隐私安全等问题。
因“蚂蚁呀嘿”殊效火爆全网
最近，在某短视频社交平台上，一个叫作“蚂蚁呀嘿”的殊效火了。许多网友都将自己的照片导入一款名为Avatarify的“变脸”软件中，照片会被算法驱动，变成一段随着节奏晃动的视频。
这款软件有多火？
据东方网，移动运用数据剖析平台七脉数据显示，2月25日0点，Avatarify在中国区App Store的免费App榜单仅排名第65，而到了当日下午五点，Avatarify蹿升至免费榜第一名，并一贯持续到3月1日。
直到3月5日，抖音#蚂蚁呀嘿#干系话题播放总量已超29亿次，殊效被 785 万人利用。
据东方网，Avatarify的名称来源于“阿凡达”电影，创作者是一位开拓工程师，最初只是由于疫情期间过于太无聊，才开拓了这款变脸运用并将其开源。实在Avatarify早在去年7月就已经上线，但一贯不温不火，直至”蚂蚁呀嘿“殊效蹿红后，才带火了这款软件。
这款软件通过AI换脸技能让图片动起来，为网友带来新奇好玩的娱乐体验，同时，蚂蚁呀嘿短视频的灵魂在于BGM，为人物增加了反差效果，从马斯克、马化腾等科技公司大佬，吴京、甄子丹等演艺界明星，到蒙拉丽莎等天下名画，乃至猫猫狗狗们，都唱起了“蚂蚁呀嘿”。
软件运行的事理是将别人的脸套在自己的表情上进行实时驱动。用户只须要三步：导入手机里的人脸图片，选择视频模板，软件就能自动天生短视频，再一键保存即可。如果想要照片中的多人都动起来，根据抖音中大多数视频制作教程，则还须要一些剪辑软件加以赞助。
据中国商报，目前的换脸技能与国外一款开源的AI换脸软件deepfake极为相似。deepfake的核心技能是一种名为天生式对抗网络（GAN）的框架，该网络有两个模块，一个卖力天生伪图，另一个卖力鉴别天生图片的质量，通过“对抗博弈”的办法不断进化，达到以假乱真的水平。
从中国区App Store下架
就在一众网友玩的兴起的时候，3月2日，在火爆了不到一周后，Avatarify却悄然从App store下架了。
关于下架缘故原由，目前官方并未解释。有网友表示，Avatarify只从中国区App Store下架，别的地区仍可正常下载，下架缘故原由或与此前火爆一时的“ZAO”下架缘故原由类似，涉及隐私安全等问题。但目前在App Store上，还有一批“蚂蚁呀嘿同款殊效”的App。
实际上，Avatarify碰着的问题早就涌现过。
早在2019年，一款名为“ZAO”的换脸社交软件在朋友圈刷屏，这款App由陌生人社交巨子陌陌开拓，用户只须要一张正脸照，就可以更换影视作品或者小视频中的人物，天生以自己为主角的视频片段。
不过，这项技能在带来创新体验的同时，也存在被滥用乃至侵害他人权柄等额外风险，这也是Avatarify和ZAO引发质疑的共同缘故原由。
虽然ZAO曾在其官方微博发布声明称，没有采集任何个人生物识别特色、不会存储个人面部生物识别特色信息、利用ZAO不会产生支付风险等，但依然无法打消用户的疑虑，并引起了有关部门的关注。ZAO的口碑遭遇“滑铁卢”。
值得把稳的是，由于Avatarify采取的是免费下载+内购的形式，用户若想在天生的动图及视频中去除水印、增加内存，则须要付费。据理解，此前Avatarify一周的利用价格为公民币18元，包年价格为253元，首周免费。对付这个价格与做事，用户的接管度并不高。
赢利的反倒是网店。只管Avatarify被溘然下架，大众对“蚂蚁呀嘿”类视频需求并没有因此减弱。据北京日报，目前在淘宝、闲鱼等平台上仍有这类视频的代制作做事。“很多人想用‘蚂蚁呀嘿’这样的视频上传抖音，但并不会费钱去买Avatarify，以是会托我们制作。”一位淘宝卖家表示，他们团队已经达到了10人，可以最快在30分钟内完成干系视频的制作，收费为一张9.9元。
AI换脸安全争议不可回避
据央视新闻，类似”蚂蚁呀嘿“这样的殊效，也是存在相应风险的。在采访中，演示职员为央视演示了如何利用深度合成中的表情操纵方法的安全漏洞攻击人脸识别系统。
演示职员 张天奕：您现在看到的这段视频，便是利用深度合成中的表情操纵的方法天生的一段假造的视频。便是说我们可以操纵一张图片，让它做出和右边这个视频一样的动作来。比如说点头、摇头、说话。可以用于攻击人脸识别系统的这种场景当中。
总台央视 杜思源：我们能看一下详细的攻击过程吗？
演示职员 张天奕：我们可以天生系统指令的这些，张嘴、点头、摇头之类的指定的动作，然后终极我们就可以伪装这个人完成了人脸验证的环节。
总台央视 杜思源：也便是说我们只须要这个人的一张照片，就可以伪装他，然后攻破这个别系。
演示职员 张天奕：是的。
2019年11月尾，国家网信办、文旅部和广电总局等三个部门联合发布了《网络音视频信息做事管理规定》，个中明确了“利用基于深度学习、虚拟现实等的虚假图像、音视频天生技能制作、发布、传播谣言的应该及时采纳相应的辟谣方法”等针对换脸技能的新规定。规定同时指出，利用基于深度学习、虚拟现实等的新技能新运用制作、发布、传播非真实音视频信息的，应该以显著办法予以标识。且不得利用该技能“制作、发布、传播虚假信息”。此外，规定还强调，不得利用干系的音视频技能“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权柄”。
近年来，环绕人脸识别的争议不断。由全国信息安全标准化技能委员会等机构发布的《人脸识别运用公众年夜众调研报告（2020）》显示，有九成以上的受访者利用过人脸识别，有六成受访者认为人脸识别技能有滥用趋势，还有三成受访者称已经由于人脸信息被透露和滥用而遭受到隐私或财产丢失。
用户的个人信息安全问题也引起了有关部门的重视。早在2019年11月尾，国家网信办、文旅部和广电总局三个部门就联合发布了《网络音视频信息做事管理规定》，个中第十一条指出，基于deepfake技能制作的换脸视频“应该以显著办法予以标识”，且不得利用该技能“制作、发布、传播虚假新闻信息”。
在近日召开的全国政协十三届四次会议新闻发布会上，大会新闻发言人郭卫民也表示，个人信息保护法草案已经提请全国人大常委会审议，对保护个人信息安全将发挥主要浸染。
栏目主编：秦红 笔墨编辑：杨蓉 题图来源：图虫 图片编辑：朱瓅
来源：作者：逐日经济新闻