前不久,深圳市民吴师长西席溘然接到一个陌生手机号码发来的彩信。
点开一看,竟然是他和一名陌生女子在酒店房间内的不雅观观照片。
吴师长西席说,发信人以这张照片为痛处,向他发出了威胁。

吴师长西席说:“他当时便是威胁我,几点之前要跟他联系,然后给他转钱。
我当时一想不对劲,就报警了。

警方接到报案后,立即对吴师长西席供应的线索进行侦查,通过梳理报案记录,创造全市有同样遭遇的不止吴师长西席一人。
经由深入调查和收网,警方抓获了这个涉嫌敲诈打单犯罪的团伙。
那么,这个团伙手中的不雅观观照片是怎么来的?原来,这是他们通过智能技能合成的换脸照片。
在嫌疑人的电脑里,警方创造了大量这样的照片。

实际上,这种移花接木的手腕目前已经比较老套。
最新的天生式人工智能技能不只能给照片换脸,还能用照片天生视频,并且模拟当事人的声音。
在2024年国家网络安全宣扬周上,技能职员展示了这项技能。

戒备新型风险  守好收集空间丨AI换脸拟声熟人家人让转账也要留心

技能职员说:“本身最右边是一张不会动的静态图片,那么通过演示者视频人脸做一些动作之后,AI运用采集到了面部动起来的特色,把这些特色领悟到这张静态图片当中,就让这个图片照着我们的动作动了起来,也可以形成一个视频。

恒安嘉新CEO陈晓光先容,人工智能换脸拟声的过程运用了深度学习算法,天生的音视频内容险些可以以假乱真,普通人仅仅通过看和听很难鉴别真假。
在不法分子眼中,这显然是敲诈打单最好用的工具,通过AI换脸拟声,就可以以“熟人”“家人”的身份,让他人转账。

陈晓光说:“一种办法是利用AI换脸拟声,也便是所谓的‘deep fake’深度假造,假造音频、视频图像进行诱骗。
另一种是用AI自动天生内容,也便是用AIGC进行诱骗。

如何戒备应对这种新型网络风险?中国移动很早之前就开始研究戒备此类风险,并形成了技能储备。
在本届网络安全宣扬周活动现场,中国移动专门展示了这项技能。
事情职员输入一段AI换脸视频后,只用了5秒,这个视频就被鉴定为假造。
中国移动信息安全与管理运行中央副经理王晓晴说,这项技能紧张是“用人工智能反制人工智能”。

王晓晴说:“我们是反向学习这种AI换脸拟声,包括证件假造场景,然后通过AI反制AI这样的总体思路,对网络当中涌现的比如语音通话中的AI换声、实名入网的AI换脸、视频通话的AI换脸、视频会议当中的AI换脸进行不同场景、不同的策略的技能研究,然后提出干系方案。
帮助老百姓提高技能戒备能力,同时赋能行业,开展多业务多场景的反制。

恒安嘉新开拓了专业检测引擎,能同时检测鉴别深度假造和自动天生这两方面的内容。

陈晓光说:“我们也采取了用技能对抗技能,用邪术打败邪术的方法,目前我们有基于AI的深度假造和AIGC的检测引擎,能够支持群众进行干系检测,同时能够支持公安进行涉诈案件的管理。

不少人想知道,在身边没有专业检测工具的情形下,碰着“熟人”“家人”“领导”发视频让转账汇款的情形时怎么办。
对此,王晓晴表示,通过互动,也可以让对方露出漏洞。

王晓晴说:“比如我们可以让对方在他自己的脸部挥手,或者让他去做捏捏鼻子、嘴巴、耳朵这些动作。
由于这个过程会造成面部数据滋扰,如果是假造的话,人脸会产生抖动、闪现,或者一些跟正凡人不太一样的情形,就能用肉眼创造真假。
同时也可以做一些比如点对点的问答,问一些知识,或者跟熟人朋友之间比较密切的话题,如果他回答不出的话,这个人大概率也是有问题的。

针对AI换脸拟声技能在灰色领域乃至违法犯罪领域被滥用的征象,网络安全专家建议加快制订干系法律法规和监管方法,为人工智能天生的图文和音视频内容逼迫添加身份认证、数字水印等,并规范天生式人工智能的利用办法和运用处景。
王晓晴表示,在人工智能时期,还要从自身做起,保护好个人信息,从源头筑牢网络安全樊篱。

王晓晴说:“比如我们的人脸、声音这些生物特色是我们的隐私,是每个人的隐私。
我们日常在发朋友圈公开一些信息的时候,大家还是要有潜在的风险意识,保护干系个人信息。

更多精彩资讯请在运用市场下载“央广网”客户端。
欢迎供应新闻线索,24小时报料热线400-800-0088;消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。
版权声明:本文章版权归属央广网所有,未经授权不得转载。
转载请联系:cnrbanquan@cnr.cn,不尊重原创的行为我们将深究任务。