视频加载中...
人工智能（AI）技能的进步，为当今社会带来了颠覆性变革。然而，新技能的运用背后，仍存在惨淡的角落。AI“黑产”涌动下，侵权、犯罪案例屡见网端，被复刻的脸庞和声音，在瞒天过海后企图践踏社会人伦，也在不断试探着法律底线。
日前，“换颜”APP运营商因擅自利用他人肖像供应给注册用户“换脸”，被起诉后判赔偿经济丢失、道歉。然而新黄河调查理解到，这只是浩瀚“AI”侵权事宜的冰山一角。今年4月，国家网信办起草《天生式人工智能做事管理办法（搜聚见地稿）》，对当下的AI假造进行了全面的规定。5月24日，中国互联网协会发布，提醒"大众年夜众当心“AI换脸”新骗局。
北京市京师状师事务所状师孟博在接管新黄河采访时表示，“AI换脸”所引发的肖像权、名誉权、知识产权轇轕，以及个人信息安全、衍生违法犯罪等方面，都需引起重视。“网络用户应该提升法律意识，规范操作。一方面，不做陵犯别人合法权柄的事情，一方面，保护好自己的合法权柄。”
△短视频平台上的AI换脸教程
“AI换脸”软件的侵权轇轕：多为侵害肖像权
放眼时下热门的短视频平台，“AI换脸”的运用并不陌生。只需一张图片，就可以将影视剧或者短视频内的脸换成图片中的“你”，既大略又有趣。然而，这个中也暗藏诸多法律风险，一系列侵权事宜也被屡次曝光。
△上海鱼腥草信息科技有限公司涉及多则肖像权轇轕
天眼查显示，近日“换颜”的运营商上海鱼腥草信息科技有限公司多则肖像权轇轕一审法律文书公开，原告为多名网红博主。公开文书显示，上述公司未经赞许，以营利目的擅自将网红博主视频中的形象“换脸”后上架供其注册用户换脸利用，侵害了原告的肖像权。终极法院讯断该公司向多位原告公开道歉，并赔偿经济丢失及合理维权用度2400元-5600元不等。
值得一提的是，该公司曾多次被诉，个中案由为肖像权轇轕的多达20次。此外，该公司于2023年2月两次因未按时履行法律责任而被铜陵市义安区公民法院逼迫实行。
北京市京师状师事务所状师孟博在接管新黄河采访时表示，干系主体在未经当事人赞许的情形下供应换脸并盈利，除了陵犯肖像权外，还可能涉嫌陵犯名誉权、知识产权，个人信息安全，而且还可能会衍生出其他违法犯罪问题。
△App Store中有近百款“AI换脸”运用程序
新黄河调查理解到，目前市情上存在上百款“AI换脸”软件，各软件“素材库”中的模板也是五花八门。古风、他乡、唱歌……险些都是真人视频图像。随机下载了几款换脸软件，大略完成注册后，只需一张图片，选择相应的视频模板，便可合成视频。如果想要解锁新的模板，可以通过不雅观看广告、分享或者付费等办法来获取。此外，运营商还推出VIP会员，价格在几十元到上百元不等，用户付费充值后便可解锁并利用软件中的全部视频模板。
然而这些模板是否取得原始视频发布者的赞许，从第三方用户的角度出发，险些无从讲求。利用后又是否涉嫌其他侵权行为，或者引起其他麻烦，也存在着一个大大的问号。
孟博称，《互联网信息做事深度合成管理规定》明确了合成数据和技能管理规范，个中明确规定，深度合成做事供应者对利用其做事天生或编辑的信息内容，应该添加不影相应用的标识，供应智能对话、合成人声、人脸天生、沉浸式拟真场景等天生或者显著改变信息内容功能的做事的，应该进行显著标识，避免公众年夜众稠浊或者误认。“网络用户应该提升法律意识，规范操作。一方面，不做陵犯别人合法权柄的事情，一方面，保护好自己的合法权柄。”
与发展“共生”的安全争议：监管部门频频脱手
提到AI换脸软件，不得不提起曾火爆一时的Avatarify。蹿红的“蚂蚁呀嘿”殊效就出自该软件。然而，因涉及隐私安全等问题，该软件火了不到一周便从AppStore中国区下架。
据央视新闻宣布，类似“蚂蚁呀嘿”这样的换脸殊效存在着相应的安全风险。利用AI换脸技能，可以通过一张图片，操纵其作出如点头、摇头、说话等表情动作，并借此方法的安全漏洞攻击人脸识别系统。
据全国信息安全标准化技能委员会等机构发布的《人脸识别运用公众调研报告(2020)》显示，有九成以上的受访者利用过人脸识别，有六成受访者认为人脸识别技能有滥用趋势，还有三成受访者称已经由于人脸信息被透露和滥用而遭受到隐私或财产丢失。
由此可见，安全问题伴随着AI的发展，成为一个不可避免的话题。该背景下，AI合成虚假图片、炮制虚假新闻等案例，将AI技能发展下的“惨淡面”推向风口浪尖。
△一组引起美股大跌的五角大楼爆炸图片被官方证明为假，疑似由AI合成
美东韶光5月22日，一张五角大楼附近地区发生爆炸的图片在社交媒体上疯传。这张虚假照片的广泛流传，乃至导致标普500指数短线下跌约0.3%至盘中低点，由涨转跌。随后美国国防部发言人立即证明，这是一张由AI天生的虚假图片。
前不久，“AI孙燕姿”的涌现，刷新了大众对AI复刻声音的认知。舆论声场中，对“AI孙燕姿”带来的法律问题，如是否陵犯歌手本人的肖像权、姓名权、声音版权等，成为社会关注的一大焦点。
对AI涉及的侵权和安全问题，国家监管部门早已关注。早在2019年11月尾，国家网信办、文旅部和广电总局等三个部门联合发布了《网络音视频信息做事管理规定》，个中明确了“利用基于深度学习、虚拟现实等的虚假图像、音视频天生技能制作、发布、传播谣言的应该及时采纳相应的辟谣方法”等针对换脸技能的新规定。规定同时指出，利用基于深度学习、虚拟现实等的新技能新运用制作、发布、传播非真实音视频信息的，应该以显著办法予以标识。且不得利用该技能“制作、发布、传播虚假信息”。此外，规定还强调，不得利用干系的音视频技能“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权柄”。
△《互联网信息做事深度合成管理规定》自2023年1月10日起施行
2022年11月，由国家网信办、工业和信息化部、公安部颁布的《互联网信息做事深度合成管理规定》，用25条规定划定深度合成技能利用规范，包括不得利用深度合成做事陵犯他人合法权柄等法律、运用程序分发平台应该落实上架审核、做事供应和技能支持者应该加强技能管理等规定。该规定于2023年1月10日起施行。
△《天生式人工智能做事管理办法（搜聚见地稿）》公开搜聚见地
2023年4月11日，国家网信办起草《天生式人工智能做事管理办法（搜聚见地稿）》（以下简称办法）公开搜聚见地。涉及的天生式人工智能包括基于算法、模型、规则天生文本、图片、声音、视频、代码等内容的技能，对当下的AI假造进行了全面的规定。此外，我国颁布的《中华公民共和国网络安全法》、《中华公民共和国数据安全法》、《中华公民共和国个人信息保护法》、《互联网信息做事管理办法》等法律、行政法规都对此有所规定。
滋长犯罪的“阴郁土壤”：新技能仍面临寻衅
事实上，以AI换脸为例，诸多案例证明，AI技能在运用推广时，也间接为一些违法犯罪行为滋长了阴郁土壤。
如今年4月份，浙江杭州萧山区审查院曝光的一个“女神群”引发社会关注。80后安徽小伙虞某在网上推广AI换脸技能及干系的软件并从中获利。他将建成的“换脸软件资源群”的群名变动为“女神试看群”，后又通过互联网下载了部分淫秽视频，截取片段后发布在该公开群中，吸引、招揽不雅观看者加入。当不雅观看者达到一定人数后，虞某会发布群称，缴纳198元-498元不等的“会费”，进入“内部群”可以收看完全版。
虞某表示，“内部群”里发送的淫秽视频根据顾客的须要，还可以利用不同的女明星的形象，进行“私人定制”。短短几个月韶光，虞某获利数万元。截至案发，公安机关共在虞某所组建的公开群内查证淫秽视频1200余部、图片1600余张，经鉴定，均系淫秽物品。2023年3月28日，萧山区审查院依法以制作、传播淫秽物品牟利罪对虞某提起公诉。
同样是4月份，某百万粉丝网红博主称有人用AI换脸软件，制作她的不雅观观视频。该博主在发文时提到，“AI盗脸”已形成一条完全的家当链，家当链的一端是不法分子通过AI换脸技能赢利。这些不法分子，将明星、博主乃至普通人的脸制作成不雅观观照片或视频，明码标价获取利益。
在“AI换脸”领域，除了明星、博主外，普通人也会被犯罪分子盯上。据多地公安部门提醒，近年来涌现一些不法分子将“AI换脸”利用在普通人身上，制造一些所谓的遭透露的“私密照片”，对当事人履行敲诈打单。此外，与“AI换脸”类似的“AI去衣”等黑产暗流涌动，也被媒体多次曝光。
对此，一家人工智能领域公司卖力人在接管新黄河采访时表示，人工智能技能的运用要符合国家的法律法规以及社会伦理规范。“我们面对的每每是大量的数据信息，这个中不少信息涉及隐私，站在公司角度，如何规范人工智能技能的利用和管理，是我们必须始终如一去规范、去办理的问题。”该卖力人说。
△AI换脸软件中的各种模板
业内人士表示，只管AI技能的发展给人类带来了极大的发展机会，但也必须认识到其发展所面临的寻衅和问题。对付AI暴露的各种问题，尤其是涉及触犯法律底线以及人伦道德等方面的，可以通过加强干系的法律法规制订和实行，制订智能机器人任务制度，保护隐私和人权。此外，也须要企业和干系部门共同努力，在新技能领域办理寻衅。
中国互联网协会最新发声：当心“AI换脸”新骗局
5月24日，中国互联网协会微信"大众年夜众号发布，针对频发的“AI换脸”骗局，提醒广大"大众年夜众提高当心、加强戒备。
△中国互联网协会发声
称，今年以来，ChatGPT和GPT-4等技能的运用，成了信息科技领域的热点，引起"大众对AI技能的广泛关注和激情亲切。但伴随着深度合成技能的开放开源，深度合成产品和做事逐渐增多，利用“AI换脸”“AI换声”等虚假音视频，进行诱骗、诋毁的违法行为习认为常。
近期，包头市公安局电信网络犯罪侦查局发布一起利用智能AI技能进行电信网络诱骗的案件。不法分子利用AI技能，通过声音合成，假造成特定人物的声音，通过AI换脸，伪装成特定人物，实时与他人进行视频通话。改换后的面部表情自然，以假乱真，能够伪装他人身份联系被害人，博取被害人信赖后履行诱骗。
中国互联网协会提醒，要加强个人信息保护意识，创造APP过度、逼迫网络个人信息，及时到12321.cn投诉，远程转账务必多重验证，切勿仅凭单一沟通渠道未经核实就直接转账汇款等。
新黄河：李震 陈元昊
编辑：杜亚慧