“今年5月份，黄某某(化名)在家刷短视频时收到了一条私信，对方自称是黄某某的表哥，寒暄几句取得黄某某初步信赖后，对方又让黄某某添加了其QQ号。”侦办此案的商河县公安局刑警大队三中队中队长张振华见告海报新闻，黄某某的表哥由于在系统编制内事情，因此对方以自己身份不便为由，希望黄某某帮自己给一个须要资金周转的朋友，转一笔大额资金。
为了表示诚意，“表哥”索要了黄某某的银行卡号，并称先让朋友给黄某某转款后，再让黄某某转出。很快，黄某某就收到了对方发来的“转账凭据”，虽然看到了“转账凭据”，但黄某某并没有收到这笔转款，因此没有立即帮“表哥”转账。
嫌疑人发送的转账凭据
“由于经由我们的反诈宣扬，对付伪装熟人诱骗的案例，黄某某比较理解，他有一定的当心性。”张振华说，大约过了20分钟，“表哥”再次发给黄某某，并称大额转款到账会有延迟，目前急需这笔钱，黄某某能否先行垫付一下。
黄某某随后与“表哥”进行了视频通话，黄某某见到视频中的人和表哥千篇一律，不过对方声音比较低，大约十几秒后，对方称有会议便挂断了视频通话。
黄某某确信了对方身份后，于是向对方供应的银行账户转了30余万元。收到这笔钱后，对方还连续敦促黄某某转出剩余的欠款。就在黄某某连续筹集资金的过程中，黄某某创造起初添加自己的短视频账号已经显示被封禁，他急忙给表哥打去电话核实，才知道其表哥对此事绝不知情。意识到受骗的黄某某立即报警。
嫌疑人的诱骗话术
警方根据嫌疑人与黄某某网聊时的IP地址，剖断该团伙在境外履行诱骗，由海内销赃洗钱，是一起采取AI技能换脸、伪装受害者熟人进行点对点网络诱骗的案件。商河警方通过技能手段侦查，两次前往广东东莞，抓获犯罪嫌疑人7人，目前此案已进入法院审判阶段。
张振华表示，在案件的侦破过程中，他们曾咨询过不少技能职员，这种实时通话的视频合成技能难度比较大，一样平常的小公司很难实现，但即便如此，这种诱骗手段仍旧可以戒备。
“由于此类AI合成技能的视频通话韶光一样平常都相对较短，犯罪嫌疑人担心通话韶光过长会露出马脚，人脸一旦变革位置或者外围环境发生变革，都可能会使犯罪嫌疑人恢复原貌。”张振华见告，对付普通群众而言，一是要把稳保护个人隐私信息，其次碰着熟人或亲戚借钱时，要及时与对方进行电话沟通，视频通话时可以让对方做出固定的手势或对面部进行遮挡，查看是否有变革，以此判断对方身份的真假。
AI诱骗形式
其余据中国之声宣布，民警陈歆怡曾办理过多起倒卖、造孽利用用户人脸照片的侵公案件，她表示AI换脸换声的基本逻辑是通过深度学习特定算法，将目标人物的人脸、表情、声音等嫁接进模拟的视频中，本钱低、合成速率高、检测鉴别难度大，一样平常人很难创造伪装痕迹。目前，AI诱骗紧张有两种形式：
第一种是通过技能手段合成换脸、换声的视频或语音，在视频谈天、普通电话中直接播放。这种诱骗紧张涌现于比较紧急的情形，如遭遇事件乞助等，播放结束后就会中断连接，无法与被害人形成回合性对话。另一种是在视频通话中直接换脸并更换声音，或直接换声拨打电话。
民警提示，以上两种诱骗办法都受限于样本数量，以是可以通过延长通话韶光、多次进行提问的办法让对方多说话，露出马脚。
如何预防AI诱骗
如何预防此类诱骗案件的发生？2022年，网信办、工信部和公安部制订的《互联网信息做事深度合成管理规定》明确，深度合成做事者应采纳技能或人工办法对利用者的输入数据和合成结果进行审核。今年8月，网信办发布的《人脸识别技能运用安全管理规定（试行）（搜聚见地稿）》明确，人脸识别技能利用者应每年对图像采集设备、个人身份识别设备的安全性和可能存在的风险进行检测评估，采纳有效方法保护图像采集设备、个人身份识别设备免受攻击、侵入、滋扰和毁坏。北京航空航天算夜学法学院副教授赵精武表示，干系部门加强监管的同时，也须要"大众年夜众自身树立起良好的防诱骗意识。“涉及到转账等财务信息的电话要求，采纳其他办法跟好友进行确认。”
民警进一步强调，要想从源头上预防此类诱骗案件的发生，保护好个人信息是关键：
不要随意接听陌生电话，防止诱骗职员以电销推广等借口采集发音、语句；避免在个人互联网社交账户上过多暴露个人照片、声音、视频等信息；对外供应人脸照片时需谨慎对待；利用小众软件进行身份认证、网络贷款实名放贷时需提高当心；不要随意点击陌生链接，链接中的木马程序会盗取用户手机内的照片、监听回传通话内容；开启定位做事、输入身份证号、录入人脸识别信息、指纹识别信息等个人生物信息时，一定要慎之又慎。
此外，民警表示，各APP网络做事供应者在网络、利用个人信息时应遵照合法、正当、必要、公开的原则，不得网络与其供应的做事无关的个人信息，应该采纳技能方法和其他必要方法，确保其网络的个人信息安全，不得主动向外供应，也要防止信息透露、毁损、丢失。
如何实现安全和便捷兼备的AI验证模式？对此，赵精武认为，二者的平衡有磋商的空间。“须要结合AI技能的发展动向进行同步调整，也须要做事供应者在干系深度合成产品和做事中增加‘AI天生’的标识机制，降落第三方识别AI天生内容的难度。”