作者 | 余洋洋
编辑 | 张丽娟
很多人收到一条语音信息就被骗了。
刘倩溘然收到一条来自多年不联系好友的微信，“最近在忙什么？”“要不要见一壁？”
从打呼唤、相互寒暄到吐槽近况，全体谈天过程自然而然。她感叹几年过去了，好友仍是语气可爱的“软萌妹子”，乃至记得她们曾在北京隆冬的某一天晚上在街头分食一份煎饼。
谈天就这样切换到语音，好友开始找她借钱，数额不大， 2000块。她绝不犹豫地转过去了。紧接着好友第二次、第三次向她借钱，她开始察觉事情有些不对。
事情确实不对，刘倩没想到，那个声音、语气一如既往地熟习，乃至能清晰记得他们多年前共同经历的“好友”是个诱骗犯。
骗子在获取了刘倩好友的声音素材之后，用AI合成的“好友”声音与之对话；熟习的语气和共同的回顾则“归功于”AI在网上搜集剖析了刘倩微信、微博等个人信息。
大多数受骗者都与刘倩有着类似的经历。不过是司空见惯的网络诱骗手腕，一旦被AI变声、换脸所营造出来的逼真假象所懵逼，受骗的几率极大地提高了。
骗子用AI将自己合成假王源，在直播平台上大肆行骗；公司员工被“上司”的一通电话骗走了22万欧元；学校事情职员则在收到一封看起来内容诚挚可信的邮件之后，被“互助伙伴”骗走巨额项目互助款。
多名经手过AI诱骗案例的民警和状师见告CV智识，随着技能的进步，网络诱骗的手段每每也花样不断、新招频出，一次又一次的打破人们的认知和想象。
“前些年行骗者利用恶意邮件、短信或者电话行骗的手段已经逐渐能够被社会大众识别和破解，但近年来兴起的基于AI技能的诱骗手段大家还没有形成普遍的警觉。”
AI诱骗，多快好骗
你的声音正在你看不见的地方被AI加工，成为骗子用来诱骗你周围人在网上向“你”转账的得力工具。
2019年，AI诱骗事宜进入人们视野的比例逐渐上升。从普通人到明星偶像，乃至是办事章程繁芜、流程规范的商业公司、学校机构，无一未曾陷入骗子用人工智能布下的完美陷阱。
“朋友发过来一条语音，让我微信转账给他2000块钱，我一听是他的声音，就绝不犹豫转给他了。”更多的语音信息发过来，刘倩从来没有疑惑过，她本能地相信，这个正和她在微信上聊着天的人便是她的朋友。
然而让刘倩没想到的是，这条与朋友声音千篇一律的语音，并不出自朋友之口，直到更多的人讯问刘倩转账的事情，她才意识到，自己上了骗子确当。
但她还是有些想不明白，这样和朋友千篇一律的声音，骗子是怎么做到的？“跟朋友的声音、语调、语气千篇一律，真的千篇一律，朋友听完都脊背发凉。”
更让刘倩以为不可思议的是，“骗子连我们几年前微信谈天用到的词都能知道，也是神奇了。”千篇一律的声音，加上熟习的谈天办法，让刘倩更加确信了向她借钱的便是朋友本人。
“骗局实在很拙劣，但加上AI的手腕，真是防不胜防。”刘倩向CV智识回忆起这次被骗的经历，现在再也不敢说被骗的人没文化了，原来不是被骗的没文化，真的是骗子太高强。
语音诱骗揭开了AI诱骗的冰山一角。当人们还在感叹区区毛骗，何足挂齿的时候，有骗子已经把AI这门新技能利用得出神入化——算法筛选被骗群体、剖析你的个人特点和喜好，机器人定时拨打骚扰电话，再加上换脸、变声等一系列操作，让人想不相信骗子是你都难。
CV智识理解到，过去几个月内，类似操作手腕的AI诱骗事宜开始增多，有网友被“同事”骗走两万多，“骗子声音特殊逼真，以公司副总名义骗得，转账后跑去领导办公室核实，结果得知被骗了。”有学生家长被骗，“儿子在读大学，我们（父母）街道要转账的电话，电话里说要转钱留个保研位，就一口气转了好几万。”
多位民警也向CV智识表示，之前从未碰着过AI诱骗案例，但今年以来这样的案例正在增加。“碰着过语音诱骗，但还没有碰着过换脸换头的情形，这种利用技能手段进行的诱骗，虽然目前来说还不普遍，但陆续涌现一些了。”
在民警们看来，虽然目前AI诱骗案例较少，但由于其强伪装、高成功率，仍旧十分值得当心。
不止普通人，明星偶像乃至商业公司也曾屡屡陷入AI诱骗风波。有骗子用AI换脸成王源，然后直播骗钱，引得粉丝纷纭来刷礼物，而在骗术被粉丝看破后，该骗子竟变本加厉、扬言要报复：做一个“王源”在KTV吸烟饮酒的视频，然后卖给自媒体以制造负面新闻。
据《华尔街日报》宣布，今年3月，一名诱骗犯利用AI语音模拟软件伪装公司大老板，成功地模拟了那位董事长夹杂德国口音的英语，让一家英国能源公司的总经理相信自己正在与德国公司的老板通电话，并骗走了22万欧元。
美国南俄勒冈大学曾被诱骗向进行了190万美元的转账，他们认为自己的转账工具是卖力培植学生娱乐中央的安德森建筑公司，实际上却转到了骗子的银行账户。
钓鱼邮件早已经不是什么新鲜的攻击手段了，但如果与人工智能相结合，使攻击者能够访问公司网络并说服员工授权转账，那带来的后果就会非常恐怖。
换脸、变声，AI“过滤”——算法筛选受骗工具，搜集并且剖析受骗者信息，则让受骗者放下了末了一道生理防线。正如刘倩所说，骗子和朋友近乎一样的说话办法令她感到诧异。
愈发频繁的AI诱骗事宜引发了人们对人工智能被用于犯罪的担忧。
AI诱骗为何能“瞒天过海”？
语音谈天、视频通话，一些看似老套低级的骗术，为什么一旦用上了AI的技能，就可以如此轻易地骗过人类？
现在的AI变脸、变声技能已经完备可以做到通过算法来天生人的全套语音，乃至连不同语气都可以做到惟妙惟肖，以假乱真。
由于机器人语音系统还可能存在卡顿、音色机器化、语气表现力不敷、多轮对话“鬼打墙”等问题，但通过AI变声技能， 不仅说话的声音达到了真人水准，乃至还能模拟真人的情绪和语调，自动说出全新的语句。
“用方言说话总能验证出来对方是不是骗子吧？”没有受过骗的网友发出侥幸的质疑。
科大讯飞已经推出了四川、广东等地口音的语音识别，同理，带有分外口音或者纯方言的语音合成也是可以做到的。
AI伪装成“老板”电话，讲出带有德国腔的英文，哀求必须在一个小时之内给“匈牙利供应商”转账，成功骗走22万欧元，便是一个范例的案例。
而除了能够利用神经网络对原始音频进行建模和模拟之外，AI还能够剖析本人的社交网络，很快节制个性化的说话办法、与周围人的关系、兴趣爱好等等，从而模拟你与身边的人自然地互换。
千篇一律的声音，再加上千篇一律的谈天办法，让人想不相信与你谈天的便是你熟习的朋友都难，骗子便是这样成功骗取了刘倩等人的信赖。
要天生这样的措辞，仅仅须要被天生者的几段话。
骗子完备可以通过骚扰电话提取到大家的声音，然后通过机器学习或者深度学习软件进行合成，从而在语音层面欺骗我们。
那直接视频通话进行验证身份，还能被骗吗？
当然不是。
GitHub上曾经有一个开源的项目代码仓库——Deepfake，以及前段韶光非常火爆的换脸App“ZAO”，这两个项目都能做到“移花接木”，将一个人的脸换到另一个人的身体上。
并且ZAO的涌现让那些在编程方面没什么根本的人，只要搜索到了足够多的素材，就能完备“换脸”，大家都能够上手。
当变脸、变声这两者被组合起来，我们的声音和脸都可以被合成，于是就涌现了直播平台上有人伪装王源绘声绘色地直播，却依然能骗过广大粉丝的一幕。
总得来说，目前常见的利用AI技能进行诱骗的办法一共有三种：
第一种，声音合成，也是目前发生频率最高的AI诱骗办法。骗子通过骚扰电话等办法，录音提取某人的声音，并对素材进行合成，用假造的声音履行诱骗。
第二种：AI换脸，视频通话的可信度明显高于语音和电话，利用AI换脸，骗子可以伪装成任何人。
第三种：通过AI技能筛选受骗人群，获取受骗者的谈天习气、生活特性等。通过剖析"大众发布在网上的各种信息，骗子会根据所要履行的骗术对人群进行筛选，从而选出目标人群。例如履行情绪诱骗时，可以筛选出常常发布感情信息的人群；履行金融诱骗时，可以筛选出常常搜集投资信息的人群。
大多数情形下，人们碰着的AI诱骗无非是这三种形式的排列组合，相对付传统的网络诱骗、电信诱骗，AI诱骗的形势不存在什么新奇之处。
但便是电话、微信、视频这些老套低级的网络诱骗办法，一旦穿上了AI的外衣，一来用算法精准筛选特定受骗目标，剖析人们的上网习气，捉住人们的生理弱点；二来通过变声、变脸等手段达到以假乱真的效果，打破人们的信赖防线，人们就很随意马虎陷入骗子制造的“迷幻陷阱”。
当AI被用来诱骗，谁的任务？
间隔第一批AI诱骗已经由去一段韶光了，可随着越来越多大略易用的开源变脸变声软件涌现，AI诱骗的本钱正变得越来越低，由此带来的新诱骗办法不但没有得到很好的管理，反而愈发频繁专横狂。
谷歌的WaveNet、Lyrebird语音合成软件，Adobe的 Project VoCo，以及百度的Deep Voice，科大讯飞、腾讯等等都供应语音合成的开源运用。
一位法院干警见告CV智识，目前海内没有利用人工智好手段进行诱骗的已结案件，常见的是利用AI措辞模拟软件伪装上级哀求紧急转款，但在未来，随着AI诱骗的技能门槛不断降落，这种诱骗办法仍旧十分值得当心。
普通人该当如何应对AI诱骗呢？多名警察见告CV智识，普通人可以通过多重验证，延迟转账，银行汇款，保护个人信息等方法保护个人权柄，防止受骗。
“通过语音、电话、视频等多办法验证对方身份，讯问一些双方才知道的信息；将到账韶光设定为2小时到账或24小时到账，以预留处理韶光。此外，可以选择向对方银行汇款，避免通过微信等社交工具转账。这样做，一方面便于核实对方信息，确认钱款去向；另一方面，对方能通过短信关照得知转账信息。”
同时，应谨慎利用各种AI“换脸”、AI“变声”软件，加强个人信息保护意识，只管即便少注册、不注册须要或者需求不高的网络账号，只管即便少填写、不填写不必要的个人信息，以防个人信息透露，只管即便不给骗子可乘之机。
北京成竺状师事务所高等合资人、状师王佳月见告CV智识，无论多么高科技的诱骗，最根本的还是迎合民众“爱占便宜”、喜好“不劳而获”、“爱面子”、“饥不择食”等生理和弱点，给犯罪分子预留了可作为的空间。
“首先还是从根源上杜绝贪婪的生理，并且时候保持警觉、提高当心、提高个人戒备意识，知道自己才是个人资产安全的第一任务人。”
但面对威力如此高强的AI诱骗，仅仅是加强个人安全警示教诲显然不足。科技公司开始为这些被他们所“创造”出来的技能承担任务，许多新的技能方法被运用在戒备AI诱骗上。
比如安全公司赛门铁克，最近就提出了采取区块链技能和IP语音（VoIP）呼叫的方法，便是来辨别来电者的真实性，从而减少哪些仿照来自上级的诱骗电话。
再比如，卡迪夫大学和查尔斯三世大学的科学家通过NLP技能来判断书面谎话，通过一个名为VeriPol的工具来识别语句中的各种特色，判断出报告是否真实。对付一些伪装真人发出的诱骗邮件或书面文件，更强大的AI模型显然能起到很好的反制的浸染。
当然，在不明确技能泛滥后果的条件下，合理地开释技能成果也成为一些科技企业的选择。比如OpenAI前段韶光推出的性能更高的无监督措辞模型GPT-2，就没有按照行业老例进行开源，只发布了简化版，不发布数据集、演习代码以及模型权重，目的便是避免AI被人恶意利用。
除了技能职员与骗子们斗智斗勇，家当界也开始从规则培植的层面，为滥用AI的行为设立了禁区。在美国安全中央发布的《人工智能与国家安全》报告中，明确将人工智能假造技能列为威胁国家安全的重点技能。
中国也开始通过政策管理和技能限定等路子进行布局，来应对人工智能的潜在安全风险。
王佳月见告CV智识，面对人工智能对法律、社会、道德、伦理等方面带来的新寻衅，从2017年开始，国家立法就开始关注个人信息保护方面的立法，例如《网络安全法》从网络运营者网络、利用、保存个人信息上加以规范；针对“陵犯公民个人信息刑事案件” 最高公民法院、最高公民审查院也出台了法律阐明予以明确办案标准。
2019年则涌现了更多好，在十三届全国人大二次会议上，人工智能方面立法项目，如数字安全法、个人信息保护法等，已经被列入立法规划，同时被列入抓紧研究项目。《民法典人格权编》（审议稿）中也存在着加强人工智能技能法律规制等条文，对肖像权、声音保护等都将受到更加明确的规范，以应对人工智能的潜在安全风险。
硬币的反面
AI出世，一骑绝尘。从技能职员、商业公司、社会管理者再到普罗大众，所有人都被人工智能的能力惊艳了，于是五花八门的换脸变声软件层出不穷。
随着技能的成熟，运用的门槛也在不断被降落，直到人工智能被做成一个个大略易上手的手机App，普通人也可以轻松利用。
还有一个不容忽略的事实是，越是厉害的高科技，也越是具有杀伤力。人工智能技能利用不当，其副浸染已经开始显现。
骗子向来是普通人里最热衷于考试测验新方法、新手段的那一群人，当人工智能这把极具杀伤力的武器被骗子利用，普通人的生命财产安全也将受到更大威胁。
在经历了前几年的快速发展期后，今年，人工智能开始全面回归理性。在处理AI诱骗案件时，人们也加倍意识到，仅靠警察办案与加强个人安全教诲已经不能办理人工智能滥用所造成的一系列社会问题。
AI诱骗正是人工智能这枚硬币反面的一个点，除了行骗，人工智能在被用来获取用户数据、个人信息，监控学生等方面同样引发了大量争议。
攻击者与防御者手中的武器都在升级迭代，而环绕AI天生的网络欺骗与安全问题有着太多意想不到的可能性，这场全新的斗法，正在从技能维度，走向知识、伦理、规则等更广阔的领地。
题图来源于Pexels。
免责声明：本文仅代表作者态度，与本站态度无关。齐鲁壹点展示信息的目的在于传播更多信息，不担保该信息(包括但不限于笔墨、数据及图表)全部或者部分内容的准确性、真实性、完全性、有效性、及时性、原创性等。干系信息并未经由本网站证明，不对您构成任何投资建议，据此操作，风险自担。
找、求宣布、求帮助，各大运用市场下载“齐鲁壹点”APP或搜索微信小程序“壹点情报站”，全省600多位主流媒体在线等你来报料！
我要报料