“AI换脸”这学买卖，到底“刑不刑”？“自动驾驶”汽车出事件，谁来担责？用人工智能“搞创作”，著作权归谁？……即日起，“南方法治”《约法三章》栏目将升级为普法脱口秀栏目《这能“刑”吗？》，聚焦法治新闻热点，用最短韶光带你抽丝剥茧，学习热点事宜背后的法律知识点。开栏之初，我们将聚焦当下热门的人工智能干系话题推出系列节目，敬请关注！
视频加载中...
AI换脸，生财新赛道？
【省流版】
1.当下，“AI换脸”技能已经被一些不法分子盯上，一旦成为色情、诱骗犯罪的工具，就很有“判头”。
2.有些买卖看似“没那么刑”，但若未经被“换脸”自然人授权，实际也涉嫌侵权，可能承担道歉、赔偿等民事任务，比如“AI复活”。
3.日常生活中，建议别下载注册来源不明的软件，定期清理手机里的个人信息，保护好您的“脸面”。
【完全版】
“AI换脸”，可能很有“判头”。先来看三个真实的案例：
内蒙古包头警方通报的一起利用AI履行诱骗的案件中，张三通过AI换脸和拟声技能，佯装熟人履行诱骗，导致一受害者10分钟内被骗430万元。
山东警方公布的案例中，李四搜集他人个人信息，通过AI技能制作成“不雅观观视频”，精准发送给受害者，并以举报、分布、奉告家属等办法威逼受害者“费钱消灾”。
浙江审查机关不久前表露的一起案件中，王五在网上网络他人供应的女明星或普通女性的生活照，通过AI技能“定制”淫秽视频和图片，乃至同时出售干系制作软件及利用教程。
仅在这三个案子中，这些不法分子就可能涉及诱骗罪、敲诈打单罪、传播淫秽物品牟利罪和陵犯公民个人信息罪等罪名。
或许你要问，不碰这些涉黄、涉诈的行为不就好了？
实在，一些看似安全的行为背后也有法律风险。比如前不久，有商家用AI“复活”了李玟、高以翔等去世明星，无论是否以营利为目的，干系行为都已涉嫌侵权。根据民法典有关规定，这些技能的利用者可能面临停滞侵害、肃清影响、赔偿丢失等民事任务。
电影《流浪地球2》中，科学家图恒宇用科技“复活”了因车祸去世的女儿。
随着深度合成、深度假造等技能的快速发展，“换脸”“拟声”效果愈发逼真，但利用门槛却越来越低。此时此刻，这些教程、软件就在互联网上被悄悄兜售，买卖双方都可能“心怀鬼胎”——这也客不雅观上导致AI技能加速向侵权、诱骗、色情等领域渗透。
在某电商平台输入“换脸”，会看到不少人出售干系软件包和教程。
怎么办？立法层面，须要给当下狂飙突进的AI技能划红线，踩刹车。
这些年，我国陆续出台《互联网信息做事深度合成管理规定》《天生式人工智能做事管理暂行办法》等多项法规和政策，逐步明确了深度合成做事供应者、内容生产者和个人信息处理者等主体的任务责任和干系惩罚方法。
更进一步的“AI法”也已经在路上。5月6日，国务院办公厅印发《国务院2024年度立法事情操持》，个中透露预备提请全国人大常委会审议人工智能法草案。
但不得不承认的是，规则的制订总是滞后于社会问题产生。
对此，司法监督部门正在加强对图像、声音假造技能的反制研究，用邪术打败邪术。
比如，我国公安机关就联合国家重点实验室等单位，开展了人脸识别与活体检测技能安全测评，范围覆盖了通讯、直播、社交、电商等多类APP。
纵不雅观与“AI换脸”干系的案件，会创造，个人信息透露每每是犯罪的源头。
这就提醒我们，在网上冲浪时，要保护好自己的“脸面”，比如不下载注册来源不明的软件，定期清理手机里的个人信息等。
【统筹】祁雷 张梓望 杜玮淦
【文案】孟健 祁雷
【出镜】孟健
【拍照】梁钜聪
【剪辑】金镝
【设计】吴颖岚 谭唯
【作者】 祁雷；梁钜聪；金镝；张梓望；谭唯；杜玮淦；吴颖岚；孟健
南方法治