然而，这项新技能，却让一些人产生了不良想法，杭州的虞某就利用“AI换脸”软件天生大量淫秽视频进行传播，被换脸的有不少女明星等"大众人物，虞某乃至还供应换脸定制服务。
“只要能看到的脸都能换”
还有人用暗恋女生换脸
据央视新闻，2022年8月，杭州市萧山警方在网上巡查中获取一条线索，辖区内有人利用AI技能制作淫秽视频在网上进行大量传播，警方依法对此备案侦查，并迅速抓获了犯罪嫌疑人虞某，随后该案被移送至杭州市萧山区公民审查院审查起诉。
审查机关调查创造，虞某从2020年开始打仗“AI换脸”软件，起初，他想通过在网上推广该项技能以及干系的软件来获利，但是，一段韶光过后关注他的人却很少，一次有时的机会，虞某看到有人在社交群组中发布淫秽信息来吸引他人关注，于是他也动起了类似动机。
据虞某供述，为了吸引更多的关注和流量，他在社交软件上创建了“浏览群”和“私人定制群”，“浏览群”紧张用来传播“AI换脸”的淫秽视频吸引、招揽不雅观看者，个中包括一些经由虞某换脸的视频，当有人提出“定制换脸”的需求，虞某会将这些人引入所谓“私人定制群”。
据审查机关调查，虞某一边通过传播换脸的淫秽视频来“吸粉引流”，同时又通过出售“AI换脸”软件和供应所谓“AI换脸”的私人定制服务，在不到半年的韶光里就获利数万元。而被“AI换脸”侵害人脸敏感信息的受害者，不仅包括多位有名"大众人物，还有很多不特定的普通人。
据审查机关调查，虞某根据“AI换脸”视频的长度、清晰度等难易条件，按照5分钟300元、10分钟500元等标准来收取定制的用度。虞某声称，“只要能看到脸的都能换”。
据审查机关理解，虞某的客户哀求“定制”换脸的工具不仅包括一些有名的"大众年夜世人物，也有生活中的普通人，个中就有人提出想要定制自己暗恋女生的换脸视频，而对付这些未经赞许就擅自陵犯他人敏感信息的违法行为，虞某也是来者不拒。
2023年7月28日，该案在杭州互联网法院一审公开审理。2023年11月，杭州市萧山区公民法院讯断被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并惩罚金6万元。
有人专门做AI换脸培训、教程
技能职员建议：隐私不要随便发
据中新网，还有人做起了专门的代理、培训买卖。一位供应AI数字人代理做事的业内人士表示，购买AI数字人视频制作教程会附送3个人物素材，“可以克隆任何人。”当被问及是否会涉及肖像权争议时，他表示，“不会，我们做的是俄罗斯的人，在外网去找的素材没问题的”。
类似教程在电商平台上也很常见。在电商交易平台上输入“AI美女”，即可看到“新手日入2000+”“5分钟制作视频”“赶紧做个账号吧”等极具勾引性的宣扬语，多以网盘的形式发货，标价在几元至几十元间。
据江苏新闻，在手机运用商店中，有数十款软件可以实现“AI换脸换声”的效果，且基本都在用户协议中标明“仅供娱乐利用”。这类软件的换脸效果并不逼真，相似度只能达到5到6分。比如某款软件，拍下面部照片后，就能天生出一段变身“特种战士”的视频。
制作、发布此类视频是否存在法律风险呢？法律专家表示，用AI技能为他人换脸换声乃至翻译成其他措辞并发布视频，可能涉嫌害当事人的著作权、肖像权和声音权。
其余，技能职员建议大家只管即便不要把个人的隐私数据随意发到公共互联网上，如果有一些不法分子想要对你的家人履行诱骗，采集到数据往后还是比较随意马虎实现的。
编辑|王月龙 盖源源
校正|卢祥勇
逐日经济新闻综合自央视新闻、江苏新闻、中新网
逐日经济新闻