面对屏幕里AI换脸后的自己，《逐日经济新闻》（以下简称每经）一时感到愕然：寸头、条纹衫、偏瘦，电脑屏幕里端坐着的，正是本人，但这位“每经”却是一张明星的面孔。本人试着眨了眨眼睛、旁边转头，屏幕里的“明星”也随着眨了眨眼睛、旁边转头；当本人把手放在脸前晃一晃时，他也重复了同样的动作。
没错，以上正是每经暗访调查中，卖家远程给测试的实时换脸效果。卖家还颇显卖力地向每经表示，可以进一步提升换脸效果：你的脸型跟他不匹配，刘德华更适宜你！
比来，“AI换脸”爆火网络，还被和诱骗连接到了一起。继此前“10分钟被AI换脸骗走430万元”事宜后，5月25日，又一起AI换脸诱骗事宜被媒体曝光，这次金额达到245万元，且全体诱骗过程韶光更短，只有9秒钟。
每经就此展开调查，并创造了一条环绕AI换脸的买卖链：有科技博主打着科普的名义，私下兜售换脸套餐，价格从399元至1.5万元不等，乃至可以定制人脸模型；还有不少用户兜售用于演习人脸素材的src（源视频）素材包，或售卖已经演习好的人脸模型，有卖家见告每经：“有现成的明星，每个价格800～1200元。”
细思极恐，正与你视频谈天的儿子、女儿，可能不是你所以为的那个儿子、女儿。普通人有没有办法识别？每经采访到了在换脸圈子内有名度非同一般的一款实时换脸软件开拓者，他透露了普通人鉴别对方是否换脸的诀窍。
5月27日，北京中关村落论坛展览（科博会），不雅观众在数字经济展区体验AI换脸、虚拟形象天生技能 视觉中国图
眼见非实：兜售视频谈天换脸工具
去年5月，CCTV-12社会与法频道曝光一起AI换脸诱骗案件：2022年2月，陈师长西席到浙江温州市公安局瓯海分局仙岩派出所报案称，自己被“好友”诱骗了近5万元。经警方核实，诱骗分子利用陈师长西席好友“阿诚”在社交平台发布的视频，截取其面部视频画面后再利用“AI换脸”技能合成，制造出陈师长西席是与“好友”视频谈天的假象。对方借口国际漫游限定，联系不上海内航空公司的经理，要求陈师长西席代其向航空公司转账，从而导致陈师长西席上当。
2020年，上海某公司高管被诱骗150万元，便是因对方利用AI换脸与人工天生的语音技能伪装其公司领导，并要该高管转账，致使其无法分辨而被骗。
理解到，去年11月，大量博主反响接到境外视频通话要求，不少博主疑惑此类视频电话的目的是盗取人脸及声音信息。一名博主将报警过程发布在自己主页上，警察建议其不要接此类电话，并且拉黑对方、关闭视频电话功能，同时建议其关闭所有银行卡和付费软件的刷脸支付功能，碰着此类情形及时报警。
一名博主向每经讲述了诱骗分子伪装其远房亲戚，通过微信语音通话对实在行诱骗的过程：
“今年4月份，远房亲戚溘然通过微信向我借钱，正当我犹豫时，对方打来语音通话。49秒的语音通话中，声音没有任何非常。我说，我还以为是骗子。她说不是，她那边旗子暗记不好，她在出差。不料，10分钟后，真正的远房亲戚打来电话，称被盗号了。如果我当时不是刚好有事，直接就打钱给她了。”
值得把稳的是，在某社交平台上，不少科技类博主发布视频提示AI变脸诱骗风险。而这些视频，无一例外都在展示AI变脸的逼真效果。
每经以学习者身份打仗了个中一位科技博主，加上微信后，对方比较谨慎地讯问变脸的意图是什么。称是为了科普，该博主随即表示，变脸399元包教包会，直播中实时变脸，外加任意短视频，想换哪个人的脸就换哪个人的脸，并分享软件和教程。
“咱们这个可以微信视频谈天中换脸吗？”每经追问。“可以。”对方答道。“399元包括微信视频变脸吗？”“对，都包括的。如果你不是说科普，微信视频谈天我都不会教的，我现在都不教表面的人了，像你这种说科普的我才教。”随后，对方给发来支付宝收款码，“考虑好了，扫码立马给你安排。”
翻阅该博主的朋友圈，涌现最多的内容是：“想学习的人一言不合上去便是转款！
”“及时把握先机及时上车。”“欢迎大家学习直播变脸。”“想学习的人，关注的从来是我该怎么学，什么时候学，不想学习的人考虑的都是各种情由。”“都是有敏锐嗅觉的，知道钱在哪里，一上来就谈互助，立马转账加入拜师傅。”“互联网懂的都懂！
”如此等。
亲测：公开卖有名演员换脸素材
AI真的能实现实时换脸吗？会不会“一眼假”？决定亲测一下。
除了前述博主的“399元包教包会”换脸套餐之外，还创造了其余一款“包教包会包售后”换脸套餐，售价竟然高达1.5万元。但如果仅仅远程测试换脸效果，只需付99元即可。花99元下了单后：寸头、条纹衫、偏瘦……电脑屏幕里端坐着的，正是本人，但这位“”却是一张明星的面孔。本人试着眨了眨眼睛、旁边转头，屏幕里的“明星”也随着眨了眨眼睛、旁边转头。当本人把手放在脸前晃一晃时，他也重复了同样的动作。不过并非天衣无缝，除了有明显的延迟之外，在手遮挡的地方，他的面部涌现了轻微的扭曲，看上去有点怪异。
没错，以上正是卖家远程给测试的换脸效果。如卖家所说，测试结果显示，该AI换脸软件确实可以做到实时换脸（出于安全等考虑，本宣布对该换脸软件采纳匿名化处理，以下用“软件X”代指）。
面对屏幕里换脸后的自己，一时感到愕然，端详了半天，说不出哪里怪异。无疑，他是投射的镜像，便是本人。但是，经由了AI的处理，他又很难称得上是本人。这种错位感，想必每个初次考试测验AI换脸的人都体验过，既有高科技带来的惊喜，又有细思后的极恐——万一有人换上了自己的脸怎么办？
恍惚之际，卖家接连发来：“你的脸型跟他不匹配，不过也有办理办法，须要制作的时候匹配。你的脸型更适宜刘德华。”“还有一点，便是灯光一定要亮，你这个太暗了，会影响效果。”“哀求电脑配备独立显卡，至少6G显存，越高越好。”“我们可以AI做脸，便是这张脸，谁都不是，变帅变俊秀都行。”“我目前做的效果，没有说不满意的，效果你放心就好了。”卖家一五一十地向先容。
针对用手遮挡面部会发生扭曲的问题，卖家表示这可以办理，“只是没有录制你的一段用手遮挡的视频。”
不过，花的99元仅仅是测试用度，若想要永久拥有这款软件，则需支付全款。在卖家这里，软件X的全款售价是1万元，如需定制人脸模型，另付5000元。
上万元的售价让人望而生畏。不过，创造，软件X的代码实际上是开源的，在网上不难找到它的下载链接，乃至“从入门到精通”的教程也比比皆是。
经由一通操作之后，成功变脸成为某笑剧明星，涌如今跟同事的视频通话场景中，电话另一边被换脸吓了一跳。
故意思的是，创造在变脸成为该笑剧明星之后，即利用手遮挡面部，也不会明显影响变脸效果，这与前面的测试结果不大一样。专业人士见告，这可能和人脸模型的质量有关。
换脸软件早已有之，但能实现实时换脸的软件并不多，具备实时换脸功能的软件X，在换脸圈子内的有名度非同一般。找了两三家兜售实时换脸软件的卖家，当打开收到的网盘链接时，创造它们终极都指向了软件X。
其余，网上已有不少AI换脸圈子，换脸爱好者在圈子内相互分享换脸资源与换脸履历。
在打入的圈子里，这些换脸爱好者也有自己的互换办法，如演习人脸模型的过程被称为“炼丹”，而电脑的图形处理器（GPU）则被称为“炉子”。
根据一些公开的说法，演习高质量的人脸模型须要上千张不同的图像。至于演习韶光的是非，除了跟人脸素材数量和质量有关，也由“炉子”等成分决定，如果没有GPU而仅用CPU演习，速率要慢得多。结合前述卖家的说法和论坛的履历帖，演习一个人脸模型可能需花费两天至一周韶光。
也有不少用户兜售用于演习人脸素材的src（源视频）素材包，单个src素材包约含几千张人脸图像，有的乃至多达上万张，这些是演习人脸模型必需的质料。src素材包大多是有名演员、网红的人脸图像，大部分来自于干系影视剧的截图。
在某电商平台上搜索“src人脸”，可以创造这类包含有名演员的src素材已被公开售卖，价格从几元至几十元不等。经由进一步打探，创造他们也售卖已经演习好的人脸模型，虽然没有在店铺上架，但是可以私下转账购买。“有现成的有名明星，每个价格800元～1200元，男的很少，女的差不多十多个。”对方说。
对抗假造：普通人如何鉴别真假脸？
据理解，AI换脸紧张依赖于一种基于深度学习天生内容的深度合成技能。
深度合成技能，也常常被称为深度假造技能，是指利用深度学习、虚拟现实等天生合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技能。除了人脸更换，目前该技能还运用于表情操纵、语音合成、文章天生、智能对话平分歧细分领域。
梁瑞刚等人2020年于《信息安全学报》揭橥的论文《视听觉深度假造检测技能研究综述》中提到，以换脸技能为代表的视觉深度假造天生技能的实现，总体可以分为数据网络、模型演习和假造内容天生三个核心步骤。在模型演习阶段，目前深度假造模型的布局紧张基于GAN（天生对抗网络）实现，由编码器（encoder）和解码器（decoder）构成：编码器用于提取人脸图像的潜在特色，解码器则用于重构人脸图像。
实际上，软件X的开拓团队2021年在arXiv平台上揭橥了干系论文，详述了上述软件X的功能特点及事情流程。
据该论文先容，软件X的换脸流程依次分为三个阶段：提取、演习和转换。
个中，提取阶段旨在从源图像和目标图像中提取人脸，详细分为人脸检测、人脸对齐和人脸分割三个步骤。值得把稳的是，在人脸分割步骤，软件X供应了一种自动算法，可以有效去除不规则遮挡，并补充开拓了一种高效人脸分割工具，可以通过少量的镜头学习，以知足某些特定镜头中天生细粒度遮罩。这一阐明，证明了前述卖家办理遮挡问题的可能性。
经由与网上流传的其他换脸软件进行不完备比拟，创造，软件X在换脸效果上更加逼真，而且支持大多数换脸软件无法供应的实时换脸功能。
几经周折，每经联系上了特看科技的滚石（网名），资料证明，他正是软件X的开拓者之一。滚石坦言，他参与软件X开拓的动机比较纯粹，“初衷便是好玩，以及提升主播的颜值。”
提到近期AI实时换脸工具被用于电信诱骗的新闻，他表示有所耳闻，也提出了自己的意见：“这是新技能发展的客不雅观规律，所有新技能必定会被用于黑白灰各种路子。就像现在AIGC（人工智能自动天生内容）的发展，也是会被用于各种正面和负面场景。”
滚石表示，商业场景中的高质量换脸须要采集目标人物多角度多光影多表情下的人脸图像，但不追求高质量效果的话，几张图也能大致实现实时换脸。“在AI绘画等技能加持下，换脸对素材哀求越来越低，乃至有一些算法可以做到一张图实时换脸。”
技能的发展降落了换脸的门槛，当这种“邪术”变得大家唾手可得时，普通人利用也能轻而易举地变成另一个人。这不禁让人担忧：我们日常发朋友圈是否会泄露人脸信息？对此，滚石这样回答：“普通人没有办法规避，你总会有照片暴露在网上。”
针对自己参与开拓的换脸软件，他向透露了普通人鉴别对方是否换脸的诀窍：“让对方把手大面积遮挡人脸，遮住面部中央80%以上的区域，缓慢移动手，看是否会涌现画面非常。”
“跟美颜相机的美颜效果丢了一样，事理是遮挡面历年夜到一定程度，人脸检测会失落效，导致换脸或者美颜等人脸算法就失落效了。这招目前是比较有效的，但把稳一定要超大面积遮挡，小面积遮挡影响不到人脸检测。”他如是阐明。
值得一提的是，此前的盛行说法称AI换脸无法眨眼，以及会涌现面部不自然等征象。而在滚石看来，这些判断方法已经是过期且无效的。“我们开拓的软件可以完美实现眨眼，小面积遮挡、说话、光影变革。”
他发来的测试视频也证明了这一点，视频中的一名中国人被换脸成外国人面孔，并能够自若地用手遮挡面部，乃至可以在脸上捏来捏去。“这是我们为跨境直播商家开拓的工具，可以完美办理常规遮挡，实现多角度多表情多光影的繁芜情形下换脸。”
除了滚石提到的通过用手大面积遮挡面部，换脸视频也可以通过技能手段鉴别。把稳到，与AI换脸技能同步发展的假造人脸检测技能，近年来取得了长足的进步。
比如，去年上海交通大学电子信息与电气工程学院人工智能研究院教授杨小康团队的两篇关于假造人脸鉴别的论文，被人工智能国际顶级会议CVPR 2022收录。据上海交通大学官网先容，杨小康团队提出名为RECCE（中文释义：侦查）的鉴别方法，利用图像重修技能放大假造痕迹，纵然是方法未知的假造人脸图像，也能十分随意马虎地准确识别假造区域。大量实验结果表明，所提出的新方法在多个大规模数据集上取得当前最好的对抗攻击效果，为假造人脸检测算法供应了最强的对抗攻击样本作为测试。
不过，滚石认为，理论上随着换脸技能发展，是可以做到无法检测出来的。“由于这个换脸技能和鉴别技能是会相互学习进步的，终极状态便是换脸效果越来越真实，直至和真人一样。就像AI领域的GAN天生对抗技能一样，一个天生器和一个鉴别器相互对抗学习，直至天生器天生的图再也无法被鉴别器识别。”
把稳到，在上述软件X论文的开头部分，开拓团队表达了这样一种不雅观点：“被攻击后的检测并不是减少深度假造恶意影响的唯一办法。检测传播的欺骗内容总是为时已晚。从我们的角度来看，对付学术界和"大众年夜众来说，帮助网民理解什么是深度假造，以及如何天生电影质量的交流视频要好得多。俗话说‘进攻是最好的防守’，让普通网民意识到深度假造的存在，加强他们对社交网络上发布的恶搞媒体的识别能力，比纠结于恶搞媒体是否真实更为关键。”
技能向善：AI换脸有哪些法律风险
北京大成状师事务所高等合资人肖飒在接管采访时表示，AI换脸技能涉及的法律风险可分为民事侵权与刑事犯罪两方面来看。
民事侵权方面，紧张涉及陵犯肖像权和陵犯名誉权。刑事犯罪方面，一是利用AI换脸技能制作的视频内容可能具有违法性，二是AI换脸的利用手段可能具有违法性。
“在AI换脸视频内容被刑法所禁止的环境下，此时刑法的评价工具是利用AI技能创造出的虚假视频，该行为违法性的核心也来源于此。该种别下，除了可能涉及制作、复制、出版、贩卖、传播淫秽物品牟利罪或传播淫秽物品罪之外，还可能涉及侮辱罪，诋毁罪，编造、故意传播虚假信息罪等。另一种刑事犯罪环境是，AI换脸视频内容并不违法，但将其利用到违法的领域内，即AI换脸技能成为了一种新型犯罪手段。该种别下，除了可能涉及诱骗罪，还可能涉及的罪名包括敲诈打单罪，造孽侵入打算机信息系统罪，造孽获取打算机信息系统数据、造孽掌握打算机信息系统罪，供应侵入、造孽掌握打算机信息系统程序、工具罪等。”肖飒见告每经。
其余，肖飒提醒，在当前的大数据时期，隐私问题应该被公众年夜众更加关注和戒备。“目前，在我们的生活中，很多公司打着‘安全和为用户需求考虑’的幌子，扩大了电子监控设备的适用范围。如各大运用商店中仍可以搜索到大量的换脸APP，各种产品中包含的人脸识别步骤使得用户在不知不觉中就透露了自己的人脸信息。而部分软件在与用户订立‘隐私条款’时，利用了‘包括但不限于’对用户人脸信息的无限制利用。在大数据时期下，利用网络数据的便利性和广泛性，企业可以凭借一张大略的照片就关联出用户的其他信息，进而对用户信息进行买卖谋取造孽利益，给用户带来了巨大的信息透露风险。”
值得一提的是，把稳到，在实际的换脸诱骗场景中，由于人脸模型的制作过程相对繁芜，犯罪团伙自身或无力承担这一“技能活”。在换脸圈子里，就有人抛出这样的问题：别人用AI换脸去诱骗的话，帮这个人制作人脸模型的人会不会也有法律任务？
对此，肖飒认为，如果这个制作人脸模型的人知道该模型将用于诱骗，符合干系法律规定的“明知”环境，或将构成帮助信息网络犯罪活动罪，如果该制作人脸模型的人与诱骗者有事先共谋，则可能直接与诱骗人一起构成诱骗罪的共同犯罪。
此外，针对网上大量售卖的AI换脸软件及教程，肖飒表示，依照著作权法，换脸软件若能符合“打算机软件”或其他符合作品特色的智力成果，其开拓者依法享有著作权。开拓者作为著作权人有权容许、转让该权利。故而，只有著作权人或受著作权人容许的人可以售卖该换脸软件/换脸教程。
若不符合干系法律规定的“明知”环境，该开拓者或被容许人无需担负任何法律任务。其余，软件开拓者或被容许人纵然声明“不得用于违法用场”，若私下帮助信息网络犯罪，仍需担负法律任务。
据理解，近年来，以AI换脸为代表的深度合成技能风靡国内外，为规范深度合成技能的运用，天下多国出台了干系规定。
去年12月，中国国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息做事深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。
《规定》第十四条提到，深度合成做事供应者和技能支持者供应人脸、人声等生物识别信息编辑功能的，应该提示深度合成做事利用者依法奉告被编辑的个人，并取得其单独赞许。
第十七条规定，深度合成做事供应者供应以下深度合成做事，可能导致"大众年夜众稠浊或者误认的，应该在天生或者编辑的信息内容的合理位置、区域进行显著标识，向"大众年夜众提示深度合成情形：（一）智能对话、智能写作等仿照自然人进行文本的天生或者编辑做事；（二）合成人声、仿声等语音天生或者显著改变个人身份特色的编辑做事；（三）人脸天生、人脸更换、人脸操控、姿态操控等人物图像、视频天生或者显著改变个人身份特色的编辑做事；（四）沉浸式拟真场景等天生或者编辑做事；（五）其他具有天生或者显著改变信息内容功能的做事。
肖飒见告，美国有几个州已经通过立法禁止深度合成，但只针对传播有关政治选举或色情制品的深度合成。有关其他领域深度合成的法规并不包括在内，例如，用于社会工程的深度合成目前没有被禁止。“美国通过的立法也只适用于某些州，而不是全国范围的。”
肖飒表示，欧盟委员会提出了《人工智能法》（Artificial Intelligence Act），该法将深度合成纳入其范围，是对其进行监管的初步考试测验。
手记
如果节制了邪术，你会用它来干什么？
“AI换脸真的这么神奇吗？”当AI换脸诱骗频上热搜的时候，我不禁这样问。彼时，我对AI换脸的印象还勾留在当年“蚂蚁呀嘿”魔性视频爆火的阶段。直到看到自己的脸被换成一款维妙维肖的明星脸时，我才意识到，原来这门技能已经如此厉害了。然而，它可能被用于造孽目的，让人细思极恐。
无疑，AI换脸技能是一把双刃剑，当节制这种“邪术”的门槛越来越低时，我们不禁要问：“自己会拿它来干什么？”这让我想起小时候看的一部电视剧，叫《魔幻手机》，手持“傻妞”的人可以节制超能力，有人用它来行侠仗义，有人则用它来知足贪欲。
那我们该禁止这种技能吗？现在没有谁敢轻易下结论，不过干系技能开拓者在论文中提到的一句谚语，让我很有感触，这句谚语原文是：The best defense is a good offense。翻译成中文，意思大致便是：进攻是最好的防守。
逐日经济新闻