青岛的一名大学生和他在网上认识的“女朋友”视频谈天，对方称须要资金周转，男孩打钱过去之后，创造竟然被诱骗了。
深圳安络科技市场部经理梁雅婷：我们通过取证创造实在跟他谈天的并不是他的女朋友，对方是通过虚拟的摄像头，然后通过AI换脸的功能跟他进行谈天。
那么AI如何做到在视频通话时换脸呢？在一家为公安机关供应技能支持的科技公司看到的演示，相似度可以达到80%。
深圳安络科技产品部经理刘远洋：刚才我们拍了一张照片，然后上传到电脑上面，我们只须要打开软件选择头像，左边已经看到我们的图片，右边是事先拍好的一段视频。工程师已经把所有的参数都已经设定好了，我们只须要点击开始实行，输入要保存的文件名，这个窗口弹出来过后，换脸视频就已经开始天生了。
我们在现场看到，一个高配置的电脑，合成一段10秒的换脸视频只须要一两分钟。而技能的发展，视频谈天的实时变脸也不是难事了。
深圳安络科技产品部经理刘远洋：照片上传后，一样平常就会有30秒钟旁边的韶光，对照片进行特色识别，然后进行建模。建模功德后就可以进行实时转换，不管是你的头像，还是在朋友圈的一张小照片，只假如照片都可以直接上传，进行特色的识别建模。
AI天生的技能还在不断地更新迭代，比如性别的互换，声音的变换，都可以同步进行。由于算法是开源的，也便是说一个普通的工程师就可以制作出一个变脸软件，这就导致我们在掌握源头上带来了极大的困难。
AI换脸用于诱骗 反诈也有新手段
不断迭代的AI技能，已经把换脸视频做到“真假难辨”，那么我们该当如何戒备此类新型诱骗呢？
首先，目前视频换脸的技能上也不是无懈可击的，视频沟通时的一些动作，就可以创造马脚。
深圳安络科技副总裁肖坚炜：在这个操作中，如果我用其余第三个图像去滋扰它，比如让他用手捂脸、动一动，就会滋扰到图像的合成。从这里演示看，我把手放上去之后，会明显地看到屏幕上我们同事的眼睛在抖动了，鼻子在抖动了，我的手已经消逝了，嘴巴也消逝了。
除了让对方在脸部做出一些动作来判断，专家先容，AI合成软件的升级可能是飞速的，如果动作捕捉已经被避开，那么我们就须要通过一些更专业的软件来分辨了。
深圳安络科技副总裁肖坚炜：我们可以通过软件来识别，比如人的全体轮廓，更换的眼睛、鼻子、嘴巴这里，它的像素大小是不一样的，颜色的色域是有差别的。像我们的衣服一样，要打一个补丁，是没办法做到完美的。这些我们眼睛肉眼看不出来，但是软件算法是可以检测出来的。
目前，这类鉴别软件对设备和周边的哀求也比较高，利用起来并不遍及。不过，让视频传播的网站或者社交软件，利用专业的鉴别软件来鉴定，再打上“AI制作”的标签，在现阶段不失落为一个方法。
预防“AI换脸诱骗”，大家还要加强对人脸、声纹、步态、指纹等生物特色数据的安全防护。
中国科技大学公共事务学院、网络空间安全学院教授左晓栋：在利用互联网做事或者在社会生活中，哀求输入人脸等生物特色数据的时候，我们要看一看，对方网络我们的生物特色数据是不是符合数据安全法，个人信息保护法的哀求，是不是合法、正当和必要。
此外，国家也在通过多重手段戒备“AI换脸诱骗”，近两年，干系部门先后出台了互联网信息做事深度合成管理规定，天生式人工智能做事管理暂行办法等有关政策文件。先后开展了“互联网深度合成算法备案”“大措辞模型算法备案”等有关事情。严厉打击利用AI换脸、变声等手段履行的违法犯罪行为。
中国科技大学公共事务学院 网络空间安全学院教授左晓栋：目前看来初步遏制了滥用人工智能技能。特殊是从事违法犯罪的这些势头，整体管理效果开始显现，而且也有力促进了人工智能技能的规范发展。（央视新闻客户端）
来源： 央视新闻客户端