前不久，深圳市民吴师长西席溘然接到一个陌生手机号码发来的彩信。点开一看，竟然是他和一名陌生女子在酒店房间内的不雅观观照片。吴师长西席说，发信人以这张照片为痛处，向他发出了威胁。
吴师长西席说：“他当时便是威胁我，几点之前要跟他联系，然后给他转钱。我当时一想不对劲，就报警了。 ”
警方接到报案后，立即对吴师长西席供应的线索进行侦查，通过梳理报案记录，创造全市有同样遭遇的不止吴师长西席一人。经由深入调查和收网，警方抓获了这个涉嫌敲诈打单犯罪的团伙。那么，这个团伙手中的不雅观观照片是怎么来的？原来，这是他们通过智能技能合成的换脸照片。在嫌疑人的电脑里，警方创造了大量这样的照片。
实际上，这种移花接木的手腕目前已经比较老套。最新的天生式人工智能技能不只能给照片换脸，还能用照片天生视频，并且模拟当事人的声音。在2024年国家网络安全宣扬周上，技能职员展示了这项技能。
技能职员说：“本身最右边是一张不会动的静态图片，那么通过演示者视频人脸做一些动作之后，AI运用采集到了面部动起来的特色，把这些特色领悟到这张静态图片当中，就让这个图片照着我们的动作动了起来，也可以形成一个视频。”
恒安嘉新CEO陈晓光先容，人工智能换脸拟声的过程运用了深度学习算法，天生的音视频内容险些可以以假乱真，普通人仅仅通过看和听很难鉴别真假。在不法分子眼中，这显然是敲诈打单最好用的工具，通过AI换脸拟声，就可以以“熟人”“家人”的身份，让他人转账。
陈晓光说：“一种办法是利用AI换脸拟声，也便是所谓的‘deep fake’深度假造，假造音频、视频图像进行诱骗。另一种是用AI自动天生内容，也便是用AIGC进行诱骗。”
如何戒备应对这种新型网络风险？中国移动很早之前就开始研究戒备此类风险，并形成了技能储备。在本届网络安全宣扬周活动现场，中国移动专门展示了这项技能。事情职员输入一段AI换脸视频后，只用了5秒，这个视频就被鉴定为假造。中国移动信息安全与管理运行中央副经理王晓晴说，这项技能紧张是“用人工智能反制人工智能”。
王晓晴说：“我们是反向学习这种AI换脸拟声，包括证件假造场景，然后通过AI反制AI这样的总体思路，对网络当中涌现的比如语音通话中的AI换声、实名入网的AI换脸、视频通话的AI换脸、视频会议当中的AI换脸进行不同场景、不同的策略的技能研究，然后提出干系方案。帮助老百姓提高技能戒备能力，同时赋能行业，开展多业务多场景的反制。 ”
恒安嘉新开拓了专业检测引擎，能同时检测鉴别深度假造和自动天生这两方面的内容。
陈晓光说：“我们也采取了用技能对抗技能，用邪术打败邪术的方法，目前我们有基于AI的深度假造和AIGC的检测引擎，能够支持群众进行干系检测，同时能够支持公安进行涉诈案件的管理。 ”
不少人想知道，在身边没有专业检测工具的情形下，碰着“熟人”“家人”“领导”发视频让转账汇款的情形时怎么办。对此，王晓晴表示，通过互动，也可以让对方露出漏洞。
王晓晴说：“比如我们可以让对方在他自己的脸部挥手，或者让他去做捏捏鼻子、嘴巴、耳朵这些动作。由于这个过程会造成面部数据滋扰，如果是假造的话，人脸会产生抖动、闪现，或者一些跟正凡人不太一样的情形，就能用肉眼创造真假。同时也可以做一些比如点对点的问答，问一些知识，或者跟熟人朋友之间比较密切的话题，如果他回答不出的话，这个人大概率也是有问题的。”
针对AI换脸拟声技能在灰色领域乃至违法犯罪领域被滥用的征象，网络安全专家建议加快制订干系法律法规和监管方法，为人工智能天生的图文和音视频内容逼迫添加身份认证、数字水印等，并规范天生式人工智能的利用办法和运用处景。王晓晴表示，在人工智能时期，还要从自身做起，保护好个人信息，从源头筑牢网络安全樊篱。
王晓晴说：“比如我们的人脸、声音这些生物特色是我们的隐私，是每个人的隐私。我们日常在发朋友圈公开一些信息的时候，大家还是要有潜在的风险意识，保护干系个人信息。”
更多精彩资讯请在运用市场下载“央广网”客户端。欢迎供应新闻线索，24小时报料热线400-800-0088；消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。版权声明：本文章版权归属央广网所有，未经授权不得转载。转载请联系：cnrbanquan@cnr.cn，不尊重原创的行为我们将深究任务。