“换脸诱骗”有法管，《互联网信息做事深度合成管理规定》履行满月，实测创造
近年来，随着合成技能发展，技能门槛降落，不少合成技能例如AI换脸、合成人声等可达到“难分真假”、“眼见未必为实”的地步，该项技能乃至被不少不法分子利用当做诱骗工具。去年底，国家互联网信息办公室、工信部、公安部发布《互联网信息做事深度合成管理规定》（下称《规定》），个中明确供应合成人声、人脸天生、沉浸式拟真场景等天生或显著改变信息内容功能的做事的，应该进行显著标识，避免"大众年夜众稠浊或者误认。该《规定》自今年1月10日履行以来已满一个月，《规定》的履行为合成技能的利用带来了什么改变？新快报对多款AI换脸软件进行了测试。
采写：新快报 麦婉诗 杨喜茵 陈慕媛
【背景】
“假靳东”事宜两年多后 短视频平台仍能搜索到干系账号
看似繁芜的深度合成技能离我们真的还远吗？实在并不然。2020年，就发生了“假靳东”事宜，并在全国范围内掀起了广泛的谈论。事情的起因是江西一位六旬已婚女性自称在抖音上结识了“靳东”，乃至在他的“召唤”下去长春找他，想要和他一起生活。事实上，她所结识的“靳东”是不法分子盗用名人的照片或视频片段通过剪辑配音制作出短视频。随后，不少中年女性被骗的案例被爆出，靳东事情室针对网络用户在短视频平台假冒靳东的名义、利用靳东的形象开设账号一事发布声明，表示“东弟弟”“靳东”等一系列账号均非本人，将依法追责。
时至今日，新快报通过关键词“东弟”搜索创造，仍存在部分利用深度合成技能发布虚假短视频在社交平台传播。新快报在一个名叫“东弟，。”的短视频账号之下看到，该账号的粉丝量已经超过1.8万，获赞数已达6.6万，置顶的视频内容便是勾引网友供应联系办法：“姐姐，想你的时候怎么联系你呢，很想知道你在干什么......把联系办法给弟弟。”头像利用的是靳东的照片，发布的16条视频中均利用了靳东的照片，但各条视频的配音音色都不相同。
新快报调查创造，“假靳东”的骗术并不高明，视频当中每每采取非常粗糙的抠图技能，说话的口型也与音频完备对不上，乃至人物口音也是飘忽不定、截然不同。然而，“假靳东”的嘘寒问暖，视频整体呈现贴合中老年人的审美风格，给这类视频披上了亲和的滤镜。便是这些年轻人看起来“一眼假”的视频，不太熟习网络环境的中老年人而言却难以意识到这场骗局。
“我每天早早就刷到你的视频，几次见告你我的联系办法，但没收到你的回应。”“亲爱的弟弟，你好吗，姐姐想你了，想见到你。”点开这些“东弟弟”账号留言不难创造，留言网友多为中老年人，这些账号有的是勾引点赞、评论赚取流量，有的乃至通过理财、卖货等办法来欺骗中老年网友。老人一旦上当受骗，不但钱财遭受丢失，身心康健也会受到严重侵害。
【案例】
去年广东首例涉人脸识别公益诉讼案公开宣判
去年7月，广东省首例涉人脸识别公民个人信息保护民事公益诉讼案公开宣判。在该案中，郑某通过即时通讯软件向社会发布可代查高清身份证照片、身份证号码等个人敏感信息的广告，并组建群组专门用于个人信息造孽交易。看到广告后，任某、戴某、陈某3人打起了贩卖身份证等个人信息的歪心思。他们通过广告加入了该群组，按照顾客供应的个人信息，从郑某手中购得与个人信息相匹配的高清身份证照片，利用照片中的头像制作AI（人工智能）视频卖出，从中赚取差价。
这些利用高清身份证照片制作的AI视频，可以完成点头、眨眼等动作，能够通过一些APP的人脸识别身份验证，也便是说，在当事人不知情的情形下可能就被一些软件剖断人脸识别成功，造成个人信息透露。截至案发，郑某等4人出售公民个人信息2000余条，造成了大量公民个人信息被透露乃至被冒用，严重侵害公民个人信息安全。
而就在《规定》履行后的第一天，上海市金山区公民法院公布了一起因“AI换脸”APP违法利用他人视频引发的肖像权轇轕案件。该案中，小芝是一名网红达人，热爱古风汉服，常常在某视频网站发布古风汉服照片和视频，粉丝人数40余万，在圈内外具有一定的有名度。2022年6月，小芝创造上海A公司运营的“AI换脸”APP中有自己发布在网络平台的古风造型视频模板。小芝认为，该公司未经自己赞许将自己的视频作为视频模板供用户进行“AI换脸”，严重陵犯了自己的肖像权，于是将A公司诉至法院，哀求赔罪道歉、刊登道歉声明并赔偿丢失。终极法院讯断被告A公司在其运营的“AI换脸”APP首页显著位置发布道歉声明并赔偿原告小芝经济丢失。