AI换脸软件引发争议已非首次。南都此前宣布，2019年，换脸软件ZAO就曾因涉嫌未依法依规网络利用人脸信息被工信部约谈。今年1月起正式履行的民法典，也已将AI换脸纳入到肖像权的保护范围，明确规定不得利用信息技能手段假造等办法侵害他人的肖像权。
爆红：“蚂蚁呀嘿”刷屏，干系视频播放量超31亿
在Avatarify导入一张人脸照片，选择相应模板，软件就能通过AI算法，自动天生一段随着节奏夸年夜扭动的短视频。无论是马斯克、比尔盖茨，还是唐僧师徒、还珠格格，都难逃被AI换脸后随“蚂蚁呀嘿”扭动的命运。
除了被动卷入，也有不少明星主动“换脸”。2月27日，演员甄子丹在其微博发布了一段他和吴京勾肩举杯扭动齐唱“蚂蚁呀嘿”的视频，得到吴京转发及近10万点赞。惠英红、邓紫棋、李佳琦、德云社相声演员等明星也通过社交软件纷纭参与到这场网络“AI变脸”中。
南都在移动运用数据剖析平台七脉数据查询创造，2月中旬起，Avatarify在中国区App Store的下载量便不断攀升。2月24日0时，该软件在中国区App Store总榜（免费）排名706，当晚21时便进入前100；2月25日0时排名52（运用榜排名65），当天15时、17时便分别霸占总榜、免费运用榜榜首，并持续坚持领先，直至3月1日才退居运用榜第2名。
然而，3月2日2时，Avatarify在中国区App Store溘然下架，且未显示缘故原由。与此同时，App Store上，还有一批主打“蚂蚁呀嘿同款殊效”乃至利用与Avatarify图标相同的App涌现。
3月6日，南都在多个网络社交平台看到，“蚂蚁呀嘿”热度仍不减。抖音“蚂蚁呀嘿”话题下，干系视频播放量已达31亿次，微博话题“蚂蚁呀嘿视比年夜赛”的阅读量也已超5000万。
风险：AI换脸被指存个人隐私数据透露、侵权等隐患
Avatarify的爆红与下架，也让AI换脸背后的数据安全争议再度引发关注。
此前，号称“仅需一张照片，出演天下好戏”的AI换脸软件“ZAO-逢脸造戏”，也曾经历过上线6天，就从爆红到被哀求整改的巨大落差。
南都此前宣布，2019年8月30日，ZAO上线后迅速刷屏，登上各大运用商店下载榜首位。然而，由于被质疑存在隐私协议不规范、数据透露风险等问题，9月3日，工信部约谈ZAO的孵化团队——北京陌陌科技有限公司，哀求其组织开展自查整改，强化网络数据和用户个人信息安全保护。
海内较早利用深度学习技能供应做事的广州图普科技网络公司向南都先容，相对付“换脸”技能本身，安全风险更集中于人脸信息的网络、加工、存储和传输等环节。由于人脸识别具有高度的直接识别性和唯一性，因此在对人脸信息处理的过程中，存在更高的数据透露、造孽滥用、盗用等隐患。一旦App被黑客攻破，干系的用户信息就有可能流入黑产的地下数据库，被不法分子拿来获取利益。
2019年9月，长沙市反电诈中央就曾发布紧急预警，提醒市民利用AI“换脸”及类似软件风险极高，不仅可能造成个人隐私数据透露，乃至可能被不法分子用于履行电信网络诱骗。比如，通过网络照片、视频，利用AI技能“换脸”，用假造的照片或视频履行诱骗等。
3月5日，北京冠领状师事务所主任周旭亮接管南都采访时表示，AI换脸软件存在着诸多法律隐患，可能会陵犯用户的肖像权、名誉权和著作权等基本权利。
西南政法大学人工智能法学院院长陈亮先容，AI换脸技能因其运用处景的不同也面临着不同的法律风险：“比如未经授权修正影视作品，涉嫌陵犯影视作品的著作权；在干系色情视频中的换脸，可能陵犯他人的名誉权；未经本人赞许擅自利用其肖像进行换脸，可能陵犯他人的肖像权。”
中国政法大学知识产权研究中央研究员徐新明也表示，如果软件开拓者没有事先取得干系素材的权利人的容许，可能构成侵权。“即便软件中的部分素材是由用户自行上传的，但是软件开拓者开拓者该当明知道普通用户常日是不具有版权容许的。”
规制：民法典已将AI换脸纳入肖像权保护范围
事实上，在Avatarify、ZAO面世之前，Deepfake、Deepnude等换脸运用也曾先后引发热议。AI换脸技能门槛降落的同时，对此类技能的滥用也催生了一批黑灰家当。南都此前调查创造，在猎趣、转转多个二手平台上，有卖家低价出售破解版换脸软件、“脱衣”软件，还有卖家打包出售通过换脸软件制作的女明星淫秽视频，并流传宣传供应视频定制服务。
AI换脸便利与风险并存的背后，新技能该如何监管？南都梳理发现，近年来国家有关部门已制订出台多项法律法规，进一步强化对此类技能运用的规制。
2019年9月，针对AI换脸等新运用带来用户隐私透露隐忧，国家互联网信息办公室副主任刘烈宏在国新办发布会上回应，国家网信办积极支持新技能、新运用发展，同时也采纳必要方法戒备随之带来的风险。国家网信办已会同有关部门制订出台了《具有舆论属性或社会动员能力的互联网信息做事安全评估规定》《个人信息安全规范》等法规标准，辅导督匆匆互联网企业开展安全评估，监管上线的新技能、新运用。此外，网信办还组织开展了App违法违规网络利用个人信息专项管理，保护用户个人信息和个人隐私，掩护用户合法权柄。
2019年11月，国家网信办等部门联合印发《网络音视频信息做事管理规定》，哀求利用新技能新运用制作、发布、传播非真实音视频信息的，应该以显著办法予以标识；网络音视频信息做事供应者创造利用者利用基于深度学习、虚拟现实等的虚假图像、音视频天生技能制作、发布、传播谣言的，应该及时采纳相应的辟谣方法。
2019年12月，国家网信办印发《网络信息内容生态管理规定》，明确网络信息内容做事利用者和网络信息内容生产者、网络信息内容做事平台不得利用深度学习、虚拟现实等新技能新运用从事法律、行政法规禁止的活动。
2021年1月起正式履行的民法典，其第1019条明确规定了肖像权的悲观权能，个中“不得利用信息技能手段假造等办法侵害他人的肖像权”“未经肖像权人赞许，不得制作、利用、公开肖像权人的肖像”的规定，被视为将AI换脸纳入到肖像权的保护范围。
民法典编纂专家、中国公民大学法学院副教授朱虎此前接管南都采访时透露，民法典中增加对肖像、声音的保护，正是为了回应AI换脸等深度假造技能带来的新型社会问题并予以规制、办理，避免后续危害的发生。
采写：南都 刘苗 演习生 杨苓妍