AI诱骗能有多逼真?如何识别和预防AI诱骗?
网络上的AI合成传授教化
从号码到声音,AI诱骗能有多逼真?
在家里昼寝时,王欣(化名)溘然接到了母亲同事的微信语音电话,对方问她现在在哪里、在做什么。在王欣还不知道发生了什么的时候,她从电话里听到了母亲的声音,声音听起来很焦急。虽然王欣之前和母亲说好了下午会去看牙医,母亲也知道她在做什么,但她还是接到了这样一通信问行程的电话。
母亲见告她,自己接到了一通号码和王欣手机号千篇一律的来电。接通电话后,“王欣”的声音从电话那边传来,母亲听到她的女儿在哭喊。电话那边的人对母亲说,王欣被他们绑架了,让母亲立时给他们转账30万元,不然就“撕票”。母亲吓坏了,立马打算给对方转钱,被阁下的同事拦下,就这样,昼寝中的王欣被叫醒。
据王欣所说,“这个人还挺高明的,一开始我想,难道看不出来不是我的电话吗?我后来看了一下,那个电话号码便是我的手机号,连我自己都辨别不出来”。千篇一律的电话号码瞒过了母亲,神似王欣的声音让母亲更加确信,“我妈妈说,那便是我的声音。”母亲还提到,对方一开始先讯问她身边有没有人,并哀求她走到没有人的地方。幸好通过微信语音电话及时确认了王欣在家,母亲才放下心来。
“一年之前为了留学办签证,我须要供应30万的存款证明,我第一反应便是这个。”王欣回顾起,曾和母亲有过关于30万元的对话。此外,王欣偶尔会在朋友圈和其它社交媒体上发自己的照片、视频和声音,身边还有朋友喜好在社交媒体上发类似的内容,曾在社交媒体上被伪装向身边的人索要钱财。
此后,母亲再一次收到了类似的电话。“现在,我妈妈都不太敢接我打的电话了,如果是微信电话的话还可能会接一下。”王欣说。
如何识别和预防AI诱骗?涉及资金往来应多路子核对
中国社会科学院大学互联网法治研究中央实行主任刘晓春认为,涉及资金往来等风险场景应多路子核对。上海申伦状师事务所夏海龙状师表示,在AI诱骗中,获取受害人脸庞及声音素材的路子比较多,一样平常是从受害人在社交媒体上分享的照片、短视频中获取,的确很难直接识别视频或声音的真假,最好的办法便是在接到可疑电话后直接跟本人核实。
还有专家表示,在利用互联网做事或者在社会生活中,哀求输入人脸等生物特色数据的时候,要看对方网络生物特色数据是不是符合《数据安全法》《个人信息保护法》的哀求,是不是合法、正当和必要。
近年来,国家出台一系列规定戒备AI诱骗。2022年11月,网信办、工信部和公安部发布的《互联网信息做事深度合成管理规定》明确,深度合成做事供应者应该落实信息安全主体任务,建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诱骗、应急处置等管理制度,具有安全可控的技能保障方法。
今年8月开始施行的《天生式人工智能做事管理暂行办法》规定,供应者对利用者的输入信息和利用记录应该依法履行保护责任,不得网络非必要个人信息,不得造孽留存能够识别利用者身份的输入信息和利用记录,不得造孽向他人供应利用者的输入信息和利用记录。
针对供应深度合成做事的平台,夏海龙指出,如果侵权、违法行为由用户个人履行,则供应干系做事的平台一样平常不须要承担任务,但应履行干系法律责任,深度合成做事供应者和技能支持者供应具有天生或者编辑人脸、人声等生物识别信息功能的模型、模板等工具的,应该依法自行或者委托专业机构开展安全评估。供应合成人声、仿声等语音天生或者显著改变个人身份特色的编辑做事可能导致"大众稠浊或者误认的,应该在天生或者编辑的信息内容的合理位置、区域进行显著标识,向公众年夜众提示深度合成情形。
来源: 中国新闻网