“AI换脸”这学买卖,到底“刑不刑”?“自动驾驶”汽车出事件,谁来担责?用人工智能“搞创作”,著作权归谁?……即日起,“南方法治”《约法三章》栏目将升级为普法脱口秀栏目《这能“刑”吗?》,聚焦法治新闻热点,用最短韶光带你抽丝剥茧,学习热点事宜背后的法律知识点。开栏之初,我们将聚焦当下热门的人工智能干系话题推出系列节目,敬请关注!
视频加载中...
AI换脸,生财新赛道?
【省流版】
1.当下,“AI换脸”技能已经被一些不法分子盯上,一旦成为色情、诱骗犯罪的工具,就很有“判头”。
2.有些买卖看似“没那么刑”,但若未经被“换脸”自然人授权,实际也涉嫌侵权,可能承担道歉、赔偿等民事任务,比如“AI复活”。
3.日常生活中,建议别下载注册来源不明的软件,定期清理手机里的个人信息,保护好您的“脸面”。
【完全版】
“AI换脸”,可能很有“判头”。先来看三个真实的案例:
内蒙古包头警方通报的一起利用AI履行诱骗的案件中,张三通过AI换脸和拟声技能,佯装熟人履行诱骗,导致一受害者10分钟内被骗430万元。
山东警方公布的案例中,李四搜集他人个人信息,通过AI技能制作成“不雅观观视频”,精准发送给受害者,并以举报、分布、奉告家属等办法威逼受害者“费钱消灾”。
浙江审查机关不久前表露的一起案件中,王五在网上网络他人供应的女明星或普通女性的生活照,通过AI技能“定制”淫秽视频和图片,乃至同时出售干系制作软件及利用教程。
仅在这三个案子中,这些不法分子就可能涉及诱骗罪、敲诈打单罪、传播淫秽物品牟利罪和陵犯公民个人信息罪等罪名。
或许你要问,不碰这些涉黄、涉诈的行为不就好了?
实在,一些看似安全的行为背后也有法律风险。比如前不久,有商家用AI“复活”了李玟、高以翔等去世明星,无论是否以营利为目的,干系行为都已涉嫌侵权。根据民法典有关规定,这些技能的利用者可能面临停滞侵害、肃清影响、赔偿丢失等民事任务。
电影《流浪地球2》中,科学家图恒宇用科技“复活”了因车祸去世的女儿。
随着深度合成、深度假造等技能的快速发展,“换脸”“拟声”效果愈发逼真,但利用门槛却越来越低。此时此刻,这些教程、软件就在互联网上被悄悄兜售,买卖双方都可能“心怀鬼胎”——这也客不雅观上导致AI技能加速向侵权、诱骗、色情等领域渗透。
在某电商平台输入“换脸”,会看到不少人出售干系软件包和教程。
怎么办?立法层面,须要给当下狂飙突进的AI技能划红线,踩刹车。
这些年,我国陆续出台《互联网信息做事深度合成管理规定》《天生式人工智能做事管理暂行办法》等多项法规和政策,逐步明确了深度合成做事供应者、内容生产者和个人信息处理者等主体的任务责任和干系惩罚方法。
更进一步的“AI法”也已经在路上。5月6日,国务院办公厅印发《国务院2024年度立法事情操持》,个中透露预备提请全国人大常委会审议人工智能法草案。
但不得不承认的是,规则的制订总是滞后于社会问题产生。
对此,司法监督部门正在加强对图像、声音假造技能的反制研究,用邪术打败邪术。
比如,我国公安机关就联合国家重点实验室等单位,开展了人脸识别与活体检测技能安全测评,范围覆盖了通讯、直播、社交、电商等多类APP。
纵不雅观与“AI换脸”干系的案件,会创造,个人信息透露每每是犯罪的源头。
这就提醒我们,在网上冲浪时,要保护好自己的“脸面”,比如不下载注册来源不明的软件,定期清理手机里的个人信息等。
【统筹】祁雷 张梓望 杜玮淦
【文案】孟健 祁雷
【出镜】孟健
【拍照】梁钜聪
【剪辑】金镝
【设计】吴颖岚 谭唯
【作者】 祁雷;梁钜聪;金镝;张梓望;谭唯;杜玮淦;吴颖岚;孟健
南方法治