“AI换脸”被滥用，有商家供应一条龙做事
近日，“AI诱骗”“AI造谣”等话题频频登上微博热搜，再次引发公众对付“AI换脸”等合成技能的关注。早在2019年，一款名为“ZAO”的AI换脸软件就曾火爆一时，只需上传一张人脸图片，它就可将影视作品中的明星脸更换本钱身的脸，这其实让很多用户过了一把瘾。然而，这款软件很快就由于隐私、版权风险等问题引发争议，终极被下架处理。
如今，随着AI技能的迅速发展，“AI换脸”正进入越来越多的生活场景中。《工人日报》在网络上搜索创造，AI换脸软件的获取非常随意马虎，有商家供应各种“换脸做事”。状师表示，若对该技能利用不当，可能会涉嫌行政违法、民事侵权乃至刑事犯罪。
“朋友”视频借钱骗走430万元
朋友打来视频电话借钱，你还会疑惑对方身份的真实性吗？
据媒体宣布，今年4月，福州市郭师长西席的好友溘然通过视频电话联系他，想通过郭师长西席公司账户走账430万元。由于通过视频谈天已“确认”了朋友身份，郭师长西席便放心转账。事后，郭师长西席通过和好友沟通才得知自己被骗，原来对方竟通过AI换脸和拟声技能，佯装好友对实在行了诱骗。
事实上，除了被运用于电信诱骗外，“AI换脸”还常被用于影视剧二次创作、意见意义恶搞小视频，乃至淫秽色情影像的合成生产中。比如，多名演员就遭遇过“AI换脸”，被人制作私人视频并对外传播。某网红博主也曾发文称，有人盗用她的“脸”制作了色情视频。
AI换脸随意马虎操作吗？在某手机运用商城，《工人日报》以“换脸”作为关键词搜索到多款“AI换脸”的App，在其他网络平台上，用户也能搜索到部分“AI换脸”的小程序。
下载了某款App利用，个中有多款“换脸”模板可以选择，包括型男、古风视频、美女视频等。如果想“解锁”更多模版，则须要额外付费。以试用的这款App为例，其月会员29元、季会员59元，终生会员98元。根据提示，用户充值后只需一键上传照片，便可在15秒内天生对应模版的“换脸”视频。
网上各种“换脸做事”涌出
通过调查创造，除了直接供应“AI换脸”做事，还有不少卖家会供应“换脸”技能教程。
在网上联系到一名卖家，他向展示了一段利用AI换脸软件实现主播换脸的样本视频。视频中主播的人脸已被更换成一位金发碧眼的外国女性，而且表情自然，险些看不出马脚。
“只须要供应一段人脸视频，3到5天就可以演习出一套高清定制模型，往后直播可以随便用。如果须要明星换脸的素材，我们这里都有，在软件利用上我们包教包会。”这名卖家说，这样一套模型收费3500元。
卖家还提醒，如果要进行直播换脸，最好配备上配置较高的电脑系统，“这样我们完备可以做到防遮挡，不雅观众基本分不出来真假，‘换脸’会更加灵动。”他说。而当讯问能否直接帮忙做“换脸”视频时，对方则显得很谨慎，“现在查得严，用场不当的不做，其他的时长半小时内收费1500元。”
“正是由于干系技能门槛的降落，才使得如今‘AI换脸’技能被滥用。”对付如今涌出的各种“换脸”做事，北方工业大学信息学院副教授张远说。
张远剖析认为，“一方面，随着AI技能代码的开源，很多人可以直接拿到成熟模型的源代码，有编程根本的人在此根本上稍加修正，便可以制作成一款AI换脸软件。另一方面，由于GPU算力的进步，软件实时换脸能力相较于之前也大幅提升，这就令AI换脸更随意马虎履行。”
管理技能滥用应引入多方力量
“这种换脸视频是否涉嫌侵权？”在换脸干系短视频的评论区里，有不少人提出这样的疑问。
对此，北京市京都状师事务所状师张雁峰指出，从娱乐“玩梗”到违法犯罪，藏在“面具”背后的用户若对该技能不当利用，会涉嫌行政违法、民事侵权乃至刑事犯罪，面临多项法律风险。
“从行政违法的角度来说，虽然现行法律没有明确‘AI换脸’一定会受到行政惩罚，但如果利用场景涉及到寻衅滋事、捏造诋毁、不正当竞争等，则可能因此而受到警告、罚款、拘留等行政惩罚；从民事侵权的角度来说，未经他人许可便擅自利用AI换脸技能可能陵犯如肖像权、隐私权、名誉权和知识产权等一系列权利。”张雁峰说。
对此，互联网剖析师张孝容则认为，伴随着AI大模型的发展，声音合成、人脸交流加倍逼真，AI换脸技能的不当运用，不仅涉及法律问题，还可能造成新型社会危害。
“因此，AI作品制作须要逼迫履行主动识别原则，令软件天生的所有作品加上AI水印。”张孝荣说，“其余，传播平台也需供应相应的解释字样。”
事实上，2023年1月10日起施行的《互联网信息做事深度合成管理规定》已提出，做事者若供应智能对话、合成人声、仿声、人脸天生、更换等深度合成做事时，应该进行显著标识，避免公众年夜众稠浊或者误认。4月11日国家网信办发布的《天生式人工智能做事管理办法（搜聚见地稿）》，也对天生式人工智能家当做出了包括定义、供应者的合规责任在内等多方面的详尽规定。
“管理AI换脸技能滥用征象，除了法律路子，还需引入多方力量。”在张远看来，“企业和高校可以互助开展更多‘反AI换脸’的技能研发事情，就像打算机病毒须要引入杀毒软件来查杀一样，我们也可以研发更多的‘假脸克星’，例如现在技能竞赛DFDC（人脸假造检测寻衅赛）就在做干系考试测验。”
张远还提出，网络做事平台作为大数据采集端，可以提高识别能力，主动通过技能方法剖析、研判、定位存在有法律风险的合成视频，严控问题视频的传播，完善事前处理机制。
来源：工人日报
流程编辑：TF060