今年6月，浙江绍兴上虞区警方创造有网民发布了关于上虞工业园区发生失火的视频，浏览量在短韶光内迅速上升。视频中，上虞区一工业园区内火势剧烈，全体园区被浓烟覆盖，现场时时传出爆炸声，场面触目惊心。
民警核查创造，视频中的建筑、森林大火场景，并非该工业园真实场景，疑似源自其它视频。经剖析，民警判断该视频是利用人工智能合成技能，将网络上多段不同视频剪辑拼接而成。警方经侦查，认定某网络科技公司员工有较大作案嫌疑，急速赴该公司所在地抓获包括汤某在内的3名犯罪嫌疑人。
“犯罪嫌疑人首先在网上搜集热门话题，通过天生式人工智能做事自动天生脚本，在网上抓取干系视频片段，然后利用AI软件合成完全视频，配上音乐、字幕。不到一分钟，一段虚假视频便‘新鲜出炉’。”上虞区分局民警沈林丰先容，为得到流量、博人眼球，自今年5月以来，该团伙不断利用人工智能技能制作虚假视频、散布谣言，在网上发布未经核实的虚假视频共3000多个。
随着人脸识别技能越来越遍及，一些不法分子开始利用“AI换脸”等技能履行盗窃、诱骗等犯罪，引发了"大众年夜众对付个人信息保护的担忧。
“我的APP彷佛被黑了!”今年4月13日，朱女士到当地派出所报案，称有人登录某政务APP，擅自下载了朱女士公司的电子业务执照。接警后，当地公安机关迅速展开侦查，很快确认曾某某有重大作案嫌疑。
经审查，犯罪嫌疑人曾某某利用自己的手机号码注册账号，并通过朱女士的姓名、身份证号等信息进行实名认证，然后通过人脸识别进行绑定，终极成功登录账号进行作案。
“曾某某通过网购店铺引流，利用‘客户’供应的人脸照片，通过专业AI软件制作合成人脸动图，以人脸识别验证办法登录各种APP，造孽获取干系信息。”办案民警先容。
“每次交易价格不等，只是以为这样挣钱比较随意马虎，没想到已经触犯了法律。”曾某某悔不当初。据理解，曾某某通过此类手段共制作动态人脸1000多个，获利9万多元。目前，曾某某已被采纳刑事逼迫方法，案件正在办理中。
公安部网络安全局干系卖力人先容：“犯罪分子用于履行‘AI换脸’的物料紧张为照片，特殊是身份证照片，同时结合职员姓名、身份证号来打破人脸识别验证系统。为戒备和打击此类新型犯罪，公安机关联合科研单位，开展人脸识别与活体检测技能安全测评，覆盖了境内用户量大、问题隐患突出的各种重点APP，及时创造人脸识别验证系统存在的风险隐患，通报运营主体升级安全保护方法和人脸识别算法。”据先容，公安机关依托“净网”专项行动，组织专项会战，严打透露身份证照片等图像信息的犯罪源头，破获多起“AI换脸”案件，抓获干系犯罪嫌疑人，有效遏制了该类犯罪势头。
“不法分子滥用人工智能技能，给社会带来严重危害，也触犯了干系法律。”警方先容，根据法律规定，利用人工智能技能制作散布虚假信息，扰乱社会秩序，可能构成编造、故意传播虚假信息罪；利用人工合成技能破解他人账号、盗取他人个人信息，则可能构成陵犯公民个人信息罪。此外，如果利用人工智能等技能手段从事欺凌、威吓、威胁等行为，就可能构成寻衅滋事罪等。
人工智能技能操作大略、可定制性强、运用处景广泛，降落了链条式犯罪的难度，被黑客等不法分子利用后危害性极大。据先容，对人工智能技能产生的新运用、新业态，公安机关坚守代价引领与技能“纠错”并行，保护人工智能技能康健发展的同时，戒备打击利用人工智能技能陵犯公民权利、危害公共安全的新型案件，掩护风清气正的网络环境，全力保障网络空间安全。
办案民警提示，要当心利用人工智能技能进行新型犯罪，建议个人加强信息保护意识，防止信息透露，不轻易供应人脸、指纹等个人生物信息给他人；管理好自己的“朋友圈”，只管即便避免过多暴露隐私；当心不明平台发来的广告、中奖等链接，不随意点击、填写信息，以免上当受骗。《 公民日报 》( 2023年10月26日 18 版)