DeepFake检测技能具有许多现实运用处景的代价,比如攻击者将不雅观观视频主角人脸换成目标人脸进行传播等场景时,DeepFake检测技能可“鉴伪求真”,追溯原形。
目前业界针对DeepFake换脸视频的检测方案紧张分两类:帧级检测和视频级检测。帧级检测方法标注本钱高,还要将帧级预测转化为视频级预测,对领悟技能哀求高,极易导致漏检或误检,视频级检测研究过多专注于按照时序构建的检测模型,导致检测效果受到一定限定。
阿里安全图灵实验室算法工程师向溪先容,为更好地检测部分修改的DeepFake视频,阿里安全图灵实验室提出了一种全新的检测方法,这种方法标注大略,并能帮助神经网络更好地学习人脸特色,实现更好的检测效果。
阿里安全图灵实验室还创造了攻击者修改视频时露出的漏洞,由于攻击者对视频实施单帧修改,导致同一人脸在相邻帧上会有一些抖动,因此研究职员设计了新检测模块来创造这些抖动,赞助识别。
此外,此前业界提出的检测方法多适用于针对单人视频脸部修改或多人视频所有人脸修改,阿里安全构建了一个部分攻击数据集,填补了DeepFake检测数据集在多人脸视频中只对一个人脸或者几个人脸修改场景里的空缺。
图片包含三张人脸,攻击者如果只对一个人的人脸进行DeepFake换脸攻击,阿里安全新技能也可成功检测 图片来源:YouTube
通过技能改造,阿里安全图灵实验室DeepFake检测技能在视频级检测和帧级检测领域均名列前茅。该技能的共同研究者、中科院打算所副研究员王树徽认为,该研究成果对付一样平常性视频多实例学习与标注技能研究也具有主要启示意义。
今年3月,阿里发布新一代安全架构,致力于从源头戒备安全威胁,构建安全体系,并打造数字基建安全样板间,阿里安全研发的DeepFake检测技能作为新一代安全架构的核心AI技能,为数字基建的安全培植起到主要浸染,并成功实现落地运用。
阿里安全图灵实验室资深算法专家华棠先容称,截止目前,阿里已经将该检测技能利用在内容安全场景中,后续也会在直播场景中进行布局。
本文源自TechWeb.com.cn