多人会议仅一人为“真人”
上游新闻梳理公开宣布创造，近年来海内已发生多起通过“AI换脸”履行诱骗犯罪的案例，个中喷鼻香港警方表露的一起近期发生的案件致受害人丢失2亿港元。
在上述案件中，一家跨国公司喷鼻香港分部的职员受邀参加总部首席财务官发起的“多人视频会议”，并按照哀求先后转账多次，将2亿港元分别转账15次，转到5个本地银行账户内。之后，其向总部查询才知道受骗。警方调查得知，这起案件中所谓的视频会议中只有受害人一个人是“真人”，其他“参会职员”都是经由“AI换脸”后的诱骗职员。
近期在陕西西安也发生了一起“AI换脸”诱骗案例。陕西西安财务职员张女士与老板视频通话，老板哀求她转账186万元到一个指定账号。
被害人张女士称，“老板”让把这个款赶紧转过去，这笔款要得非常焦急，由于“老板”声音还有视频图像都跟他本人是一样的，以是就更确信这笔款是他说要的了。转账之后，张女士按照规定将电子凭据发到了公司财务内部群里，然而出乎猜想的是，群里的老板看到信息后，向她讯问这笔资金的来由，“然后我们就打电话再跟老板去核实，老板说他没有给我发过视频，然后也没有说过这笔‘转账’。”
意识到被骗的张女士连忙报警乞助，警方急速对接反诈中央、联系干系银行进行紧急止付，终极保住了大部分被骗资金——156万元。
去年5月初，内蒙古包头市公安局电信网络犯罪侦查局发布一起利用智能AI技能进行电信诱骗的案件。福建省福州市某科技公法律人代表郭师长西席的“好友”溘然通过微信视频联系他，声称自己的朋友在外地投标，须要430万元担保金，想借用郭师长西席公司的账户走账。基于视频谈天信赖的条件，郭师长西席并未核实钱是否到账，就陆续转给对方共计430万元，之后郭师长西席才创造被骗 。
据媒体此前宣布，2022年2月，有位陈师长西席到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诱骗了近5万元。经警方核实，诱骗分子利用陈师长西席好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技能合成，制造陈师长西席与“好友”视频谈天的假象骗取其信赖，从而履行诱骗。
在更早的2020年，上海某公司高管因对方利用“AI换脸”与人工天生的语音技能制作公司领导的面孔，并要该高管转账，致使该高管被诱骗150万元。
技能开源致“换脸”门槛降落
那“AI换脸”是怎么做到的呢？据闪电新闻宣布，该技能是通过提前设置好程序，检测人脸五官、轮廓的关键点及位置，只须要几秒就可以换上一张新的“人皮” 。山东犀盐数据科技有限公司总经理彭建辉先容：“像这样换脸技能，还有换声技能，它都已经是开源的项目，大家都可以学习并且去履行。以是说‘AI换脸’这项技能，实在很多普通的工程师就可以完成。”
中国网络空间安全协会人工智能安全管理专委会专家薛聪慧先容，“AI换脸”过程紧张包括人脸识别追踪、面部特色提取、人脸变换领悟、背景环境渲染、图像与音频合成等几个关键步骤。
首先通过视频的采集，追踪定位图片里人的面部；第二步，做一个面部特色点的采集和提取，紧张包括嘴、鼻子跟眼睛的特色；第三步便是把这张原始的照片，做一个变换跟领悟。
其背后最核心的包括为三个部分，首先，利用深度学习算法精准地识别视频中的人脸图像，并提取出如眼睛、鼻子、嘴巴等关键面部特色。其次，将这些特色与目标人脸图像进行匹配、更换、领悟。末了，通过背景环境渲染并添加合成后的声音，天生逼真度较高的虚假“换脸”视频。
“动手动脚”识别“AI换脸”
而作为没有干系打算机、AI技能背景的普通人，该如何识别视频或实时通话中的对方是否“换脸”呢？
据闪电新闻宣布，一些“动手脚”的网络社交是很有必要的，“‘AI换脸’便是一种算法，当然存在漏洞，以是在利用‘AI换脸’这项技能的时候会有些变形，像是面庞或者眼睛，如果反复快速移动的话，会产生扭曲变形。那么我们在平常的生活中，跟朋友开视频时，如果不愿定对方的身份，可以让朋友遮一下自己的脸，移动下眼睛，看是否会发生变革。此外，在视频通话时还可以不雅观察背景和光影与面部是否匹配。”山东犀盐数据科技有限公司总经理彭建辉接管采访时先容。
其余，虽然深度合成技能很强大，但天生的人脸在细节上存在很多不敷。有研究职员提出利用真假脸的不一致性来区分，如新的人脸的天生，图像的数据点插值是随机的，会导致全局眼睛的旁边颜色、鼻子的旁边色彩等不一致；其次，修改区域和正常区域对光照的反射不一样，如眼睛区域，深度合成天生的视比年夜多会丢失眼睛反射细节。
中国打算机学会安全专业委员会数字经济与安全事情组成员方宇建议，可以哀求对方在视频对话的时候，在脸部的前面通过挥手的办法，去进行识别。由于实时假造的视频，须要实时的天生和处理，在挥手的过程中，会造成面部数据的滋扰。“挥手过程中，他所假造的这个人脸，会产生一定的抖动或者是一些闪现，或者是一些非常的情形。”
中国科技大学网络空间安全学院实行院长俞能海提醒，视频通话中，还可以让对方摁鼻子、摁脸不雅观察其面部变革。他在一个采访中表示，如果是真人的鼻子，按下去是会变形的，但AI天生的鼻子并不会。同样脸部也一样，真人脸部按下去是会变形的。
此外，在点对点的沟通中可以问一些只有对方知道的问题，验证对方的真实性。
用“邪术”打败“邪术”
应对AI造假，用“邪术”打败“邪术”可行吗？
对此，上海合合信息科技株式会社图像算法研发总监郭丰俊表示：“海内做AI修改鉴别的企业已有不少，既有如中国电信这样的央企，又有如瑞莱聪慧、中科睿鉴这类大学/科学院孵化的科技公司，还有网易、合合信息这样深耕AI行业多年的企业。”他还进一步指出，海内科研团队在“深度假造”鉴别方面已处于天下前辈水平。不同的海内研究团队多次在国际有名修改检测大赛中得到冠亚军的好名次。
此外，在法律监管方面，2022年，我国颁布的《互联网信息做事深度合成管理规定》就划定了深度合成技能的利用规范，包括不得利用深度合成做事陵犯他人合法权柄等法律规定。去年， 《天生式人工智能做事管理暂行办法》已正式施行，哀求天生式人工智能做事供应者应该按照《互联网信息做事深度合成管理规定》对图片、视频等天生内容进行标识。
南京邮电大学高质量发展评价研究院院长助理、副教授金巍表示，数字经济时期，加强对公民个人信息的保护，已成为与你我息息相关的新的法治需求之一。“一方面，企业和平台不能隐蔽在‘避风港’中，要积极承担社会任务。在搜集与利用个人信息时应自觉遵守法律规范，并自觉肩负起保护隐私安全的重任。另一方面，干系管理部门还应加快信息管理体系与信息管理能力培植，并发挥主导浸染，实现市场的康健发展。”
上游新闻综合自 央视新闻、新华网、闪电新闻、中国江苏网、逐日经济新闻等