AI诱骗能有多逼真？如何识别和预防AI诱骗？
网络上的AI合成传授教化
从号码到声音，AI诱骗能有多逼真？
在家里昼寝时，王欣(化名)溘然接到了母亲同事的微信语音电话，对方问她现在在哪里、在做什么。在王欣还不知道发生了什么的时候，她从电话里听到了母亲的声音，声音听起来很焦急。虽然王欣之前和母亲说好了下午会去看牙医，母亲也知道她在做什么，但她还是接到了这样一通信问行程的电话。
母亲见告她，自己接到了一通号码和王欣手机号千篇一律的来电。接通电话后，“王欣”的声音从电话那边传来，母亲听到她的女儿在哭喊。电话那边的人对母亲说，王欣被他们绑架了，让母亲立时给他们转账30万元，不然就“撕票”。母亲吓坏了，立马打算给对方转钱，被阁下的同事拦下，就这样，昼寝中的王欣被叫醒。
据王欣所说，“这个人还挺高明的，一开始我想，难道看不出来不是我的电话吗？我后来看了一下，那个电话号码便是我的手机号，连我自己都辨别不出来”。千篇一律的电话号码瞒过了母亲，神似王欣的声音让母亲更加确信，“我妈妈说，那便是我的声音。”母亲还提到，对方一开始先讯问她身边有没有人，并哀求她走到没有人的地方。幸好通过微信语音电话及时确认了王欣在家，母亲才放下心来。
“一年之前为了留学办签证，我须要供应30万的存款证明，我第一反应便是这个。”王欣回顾起，曾和母亲有过关于30万元的对话。此外，王欣偶尔会在朋友圈和其它社交媒体上发自己的照片、视频和声音，身边还有朋友喜好在社交媒体上发类似的内容，曾在社交媒体上被伪装向身边的人索要钱财。
此后，母亲再一次收到了类似的电话。“现在，我妈妈都不太敢接我打的电话了，如果是微信电话的话还可能会接一下。”王欣说。
如何识别和预防AI诱骗？涉及资金往来应多路子核对
中国社会科学院大学互联网法治研究中央实行主任刘晓春认为，涉及资金往来等风险场景应多路子核对。上海申伦状师事务所夏海龙状师表示，在AI诱骗中，获取受害人脸庞及声音素材的路子比较多，一样平常是从受害人在社交媒体上分享的照片、短视频中获取，的确很难直接识别视频或声音的真假，最好的办法便是在接到可疑电话后直接跟本人核实。
还有专家表示，在利用互联网做事或者在社会生活中，哀求输入人脸等生物特色数据的时候，要看对方网络生物特色数据是不是符合《数据安全法》《个人信息保护法》的哀求，是不是合法、正当和必要。
近年来，国家出台一系列规定戒备AI诱骗。2022年11月，网信办、工信部和公安部发布的《互联网信息做事深度合成管理规定》明确，深度合成做事供应者应该落实信息安全主体任务，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诱骗、应急处置等管理制度，具有安全可控的技能保障方法。
今年8月开始施行的《天生式人工智能做事管理暂行办法》规定，供应者对利用者的输入信息和利用记录应该依法履行保护责任，不得网络非必要个人信息，不得造孽留存能够识别利用者身份的输入信息和利用记录，不得造孽向他人供应利用者的输入信息和利用记录。
针对供应深度合成做事的平台，夏海龙指出，如果侵权、违法行为由用户个人履行，则供应干系做事的平台一样平常不须要承担任务，但应履行干系法律责任，深度合成做事供应者和技能支持者供应具有天生或者编辑人脸、人声等生物识别信息功能的模型、模板等工具的，应该依法自行或者委托专业机构开展安全评估。供应合成人声、仿声等语音天生或者显著改变个人身份特色的编辑做事可能导致"大众稠浊或者误认的，应该在天生或者编辑的信息内容的合理位置、区域进行显著标识，向公众年夜众提示深度合成情形。
来源： 中国新闻网