作为引领第四次科技革命的计策性技能，人工智能给社会培植和经济发展带来了重大而深远的影响。但作为前沿创新技能，数据隐私、技能滥用等伴平生安问题也正给社会公共管理带来严厉寻衅，个中环绕“深度假造”的伦理和法律争议一贯是"大众高度关注的热点话题。
随着深度合成技能不断演进迭代，制作一段高逼真度的虚假音视频本钱愈加降落，但其却可以借助社交媒体等平台短韶光风靡互联网。对付这样一种技能，如果不进行规制，无疑将产生恐怖的后果。
在上海举行的2021天下人工智能大会上，一个能快速看破“AI换脸术”的产品——DeepReal深度假造内容检测平台发布。其能够通过研究深度假造内容和真实内容的表征差异性辨识、不同天生路子的深度假造内容同等性特色挖掘等问题，快速、精准地对多种格式与质量的图像进行真伪鉴别。
这个检测平台由依托清华大学人工智能研究院设立的人工智能企业——北京瑞莱聪慧科技有限公司（简称“RealAI”）研发。
RealAI由清华大学人工智能研究院院长张钹院士、清华大学人工智能研究院根本理论研究中央主任朱军教授共同担当首席科学家，有人工智能安全平台RealSafe（针对AI系统的防火墙与杀毒软件）；隐私保护打算平台RealSecure（通过打通数据孤岛，将打算环节移动到数据端，实现数据安全共享流利）；深度合成内容检测平台DeepReal（快速、精准地对多种格式与质量的视频和图片进行真伪鉴别）等产品。
RealAI副总裁唐家渝透露，针对深度假造技能的戒备，RealAI目前已与工信部、公安部、国家互联网应急中央、工信安全中央、中国信通院、公安三所等多家机构展开深入的项目互助。
“深度假造”，也被译作“深度造假”，译自英语中的Deepfake，其是打算机的“深度学习”（Deep learning）和“假造”（Fake）的组合，涌现于人工智能和机器学习技能时期。普通理解便是把图片和声音输入机器学习的算法，从而可以轻易地进行“面部操作”（Face manipulation）——把一个人的脸部轮廓和表情放置在其他任何一个人的脸上，同时利用对声音的逼真处理，制造出实为合成却看似极真的视频。
2019年海内红极一时的换脸软件“ZAO”便是"大众最为熟知的运用，用户只需上传一张照片，就能秒变“戏精”，乃至还能与偶像同台飙戏，效果极其逼真。不久前，短视频领域涌现的“蚂蚁呀嘿”热潮，其根本也是深度假造技能。
凭借极强的娱乐性与传播性，“深度假造”技能一起走红。但同时，“低门槛、高效率、高质量”的特性，使其被大规模滥用于假造身份、稠浊视听，以实现网络敲诈、虚假宣扬与操纵舆论等目的。
7月9日，北京瑞莱聪慧科技有限公司首席实行官田天在上海天下人工智能大会演讲时明确指出，人工智能家当正进入高质量发展阶段，以深度假造为代表各种安全问题层出不穷，亟待办理。
与传统图像视频处理技能比较，深度假造技能具有“门槛低、效率高、质量好”的特点，以是它也被探索用于影视、医疗、虚拟现实等商业，比如在影视后期制作中，表情操纵、全脸更换等深度合成技能可以被用于影视剧本地化嘴型修正、虚拟IP打造等场景中。
然而，与正面效应比较，这些特性也同步放大了潜在威胁和安全隐患。目前，深度假造的技能门槛正大幅降落，网络上充斥着大量假造教程和开源可用的打算机程序，即便是不具备专业算法能力的普通用户，也可以在很短韶光内轻松上手。尤其依托深度学习算法特性，在海量图像和视频数据的驱动下，深度合成技能不断演进迭代，仿真精度不断得到提升。以是，制作一段高逼真度的虚假音视频本钱极低，却可以借助社交媒体等平台短韶光风靡互联网。对付这样一种技能，如果不进行规制，将产生恐怖的后果。
深度假造技能的大规模滥用正侵害到社会公众年夜众的合法权柄。比如深度假造技能最常见的造孽利用办法，将一些有名歌星、影星等"大众年夜世人物的脸“移花接木”到色情明星身上，假造色情片造孽牟利，或者是假造恶搞视频，这对个人名誉权与肖像权构成严重侵害。
其次是"大众财产安全，不法分子可以利用漏洞挟制手机识别摄像头，利用照片活化、表情操纵等深度假造技能伪装机主，进而对机主的微信好友实施转账诱骗。同样的，电信诱骗中也有类似利用“语音假造”技能的案例。
不仅如此，深度假造还将会对社会安全和国家安全造成威胁。例如，借助互联网平台捏造虚假新闻、炮制政治谣言，深度假造技能大大增加了网络内容监管的繁芜性，也带来了社会信赖危急与网络政治安全风险。在病毒式传播的深度假造视背后，可能蕴藏着操纵社会舆论、激化社会抵牾与扰乱正常社会经济秩序等系统性的危害。
“比如公安机关、法律机关的图像鉴别事情，深度假造技能的涌现将导致举证事情存在风险。”田天在演讲中补充道，“深度假造技能也可能成为国家之间发起虚假信息战役的最新武器，抹黑政治人物、假造政治制度和毁坏国家间关系，乃至在未来军事沙场上损毁特定军事或情报行动。在这种背景下，国内外政府高度重视，都出台了干系的监牵制度。”
DeepReal检测结果展示：赤色框代表判断为虚假人脸，绿色框代表判断为真实人脸
检测准确率无疑是衡量该平台代价最为主要的指标。据唐家渝先容，检测效果紧张受到两个成分的影响：数据集多元化程度和算法可靠程度。DeepReal深度假造检测平台算法基于大数据量进行演习和测试，截至目前，数据量已达到千万级，数据集已覆盖三大类，包括：学术深伪数据集、网络深伪数据集和自研深伪数据集。同时，通过结合贝叶斯学习框架和深度神经网络，来估计模型在预测新样本时的不愿定性。以上，有效保障了DeepReal深伪检测算法的泛化能力。
在测试结果方面，DeepReal在学术数据集和ZAO等主流办法天生的网络数据集中，已达到99%以上的准确率。而在实际运用中，DeepReal的检测准确率也已达到业界顶尖水平，远超 Facebook此前举办的Deepfake检测寻衅赛所公布的最好成绩。
天下武功，唯快不破。超高的准确度，还须要速率来支撑。DeepReal深度假造内容检测平台，可实现每帧画面的检测韶光仅用时30毫秒。同时，还支持横向拓展与集群支配。检测完毕，平台还支持天生检测报告。
DeepReal深度假造内容检测平台检测报告示意图
任务编辑：李跃群