界面新闻编辑 | 文姝琪
你的上司给你发来视频会议，会议中还有多名财务职员在场。会议中，上司表示要进行机密交易，哀求你向某个银行户口转账。会议中的高管脸庞、声音均与真人同等，你会心生疑虑吗？
这是今年年初某跨国公司喷鼻香港分行职员真实经历的视频骗局。据已表露的信息显示，诱骗者通过公司的YouTube视频和从其他公开渠道获取的媒体资料，成功地仿造了英国公司高层管理职员的形象和声音，再利用Deepfake（深度假造）技能制作伪冒视频，造成多人参与视频会议的效果，然而会议内只有参加的职员一人为“真人”。
由于会议中诱骗者因此上司身份向被骗职员下达命令，职员也没有机会与会议参与者进行互换。该职员仅仅被哀求做一次简短的自我介绍，随后诱骗者便结束会议，在即时通讯软件上连续下达命令。
受骗职员前后转账15次，合计共2亿港元到5个银行户口，其后向总部查询才得知受骗。因涉案金额巨大，该案也成为喷鼻香港历史上丢失最惨重的“变脸”案例。
随着天生式人工智能技能的发展，通过AI技能换脸换声的办法来仿照出另一个人的真实外不雅观已不再困难。这一技能被称作“深度假造”，即借助神经网络技能进行大样本学习，以机器学习模型将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技能。
界面新闻从某些技能开源社区上以“GAN”等关键词检索，可轻易得到深度合成干系的技能开源项目。目前在海内主流电商平台已经对“AI换脸”关键词进行了屏蔽，但是在部分社交平台上，还是能通过关键词检索联系到干系工具的卖家。
技能的发展与遍及进一步模糊了真实与虚拟的边界，而这类无法分辨真伪的交界地带则成为了滋长犯罪行为的温床。据长期关注AI安全的瑞莱聪慧的不完备统计，AI诱骗案件数量在近年来快速增长，仅2023年一年在全国已发生至少16起。
底层技能已成熟
追本溯源来看，深度假造干系的技能已十分成熟。
2014年，由蒙特利尔大学提出的天生对抗网络（GAN）提高了数据天生的逼真程度，但也大大降落了深度合成的门槛。近年来，除GAN之外，扩散性模型（Diffusion Model）等技能路线也证明了其提升数据天生逼真程度的代价。
在论文预印本网站arXiv.org搜索“GAN”可得到10694篇干系论文；以“GAN”、“NeRf”、“TTS”等深度合成干系关键词在开源社区GitHub进行检索，可得到超12万个开源项目。
开源的氛围加速了技能的互换与打破，但客不雅观上也使得如AI换脸、拟声等技能不再神秘。
界面新闻以“AI换脸”为关键词在某视频平台搜索，可以很轻易找到干系教程；同时，据在某社交平台上找到的换脸工具卖家先容，该工具只需少数照片即可完成视频的一键换脸，而整套工具及教程只需20元。
日渐降落的利用门槛使得深度假造技能成为诸多违法犯罪行为的工具。2023年4月，百万网红博主“Caro赖赖_”曾发文称有不法分子利用换脸技能制作色情视频，并明码标价获牟利润。在小红书等社交平台上，也有多位博主发文称自己曾被“换脸”至陌生人照片上。
有业内人士见告界面新闻，由于深度假造制作的材料是个人音频、图片、视频，这些数据越多，演习出的视频就越逼真，以是社交媒体上干系数据较多的博主、明星随意马虎成为深度假造的目标。
《民法典》1019条规定，未经肖像权人赞许，他人不得制作、利用、公开肖像权人的肖像。在《民法典》1020条中则补充规定，为个人学习、艺术欣赏、教室传授教化或者科学研究；为履行新闻宣布；国家机关为依法履行职责在必要范围内制作、利用、公开肖像权人的肖像等情形属于肖像合理履行。
天元状师事务所合资人李昀锴状师阐明称，《民法典》中关于肖像权合理履行所给出的空间是很窄的，如在网络上广为流传的利用他人肖像的鬼畜作品，实际上被鬼畜者享有追责的权利，只是在大多数实践中被鬼畜者并未深究。他进一步表示，换脸之后直播、发贴，都涉嫌陵犯肖像权，如果将天生内容用于色情暴力内容，则可能会涉及刑事犯罪。
因此，李昀锴状师建议，在创造侵权环境后，当事人可以通过如韶光戳等第三方存证平台把涉嫌侵权内容通过手机录屏的办法进行保存，之后无论是向平台投诉或者通过法院起诉都可以作为有效证据利用；如果涉及刑事任务，则要尽快前往去属地派出所报案，并保留侵权链接供公安调查。
如何辨别真伪？
在瑞莱聪慧联合创始人、算法科学家萧子豪的不雅观察中，深度假造的技能门槛在不断低落。“紧张缘故原由是这些技能被逐渐开源出来，而且变得越来越好用。一些低门槛的开源软件已经可以来做出质量比较好的视频。”他说。
此前在网络上也曾广泛流传的一些辨别真伪的技巧，如不雅观察对方的牙齿、舌头、耳朵或者手指是否会随着人物移动而涌现不自然的阴影。在部分场景中，这些技巧确实存在可行性。布局出海短剧的易点天下也在考试测验利用AI换脸技能。易点天下KreadoAI卖力人罗晓奇也指出，在手部遮挡脸部的时候，AI产出的内容每每会有很大的瑕疵。
但如果想要追求准确分辨真伪，这些细节仅能作为参考。以此前梅西澄清视频事宜为例，有质疑指出原视频“面部反光不自然”、“未露出牙齿”等特色。但有业内人士见告界面新闻，AI可以做到天生清晰的牙齿，这些特色不能作为证据。
多年与深度假造技能打仗的萧子豪则直言，如果对方的技能方案相对风雅，那么纯挚用肉眼去分辨会有些寻衅性。
由于深度合成内容加倍逼真，采取技能手段进行鉴别的办理方案也随之涌现。据业内人士先容，常用的方法包括基于假造内容数据集完成对模型检测器的演习、基于帧间不一致性实现对假造内容的判别等。
据萧子豪先容，从技能角度，其辨别思路大致可分为两种，一种是探求图像编辑痕迹，另一类则是判断行为是否符合知识。
“一样平常来说这类换脸都会对原来的人脸进行编辑，做动画的过程中会有类似图片编辑的操作并且留下痕迹，这类痕迹和真正拍摄时的痕迹时不一样的，”萧子豪阐明说。另一类则是检测视频中是否会展现出不符合知识的行为，如永劫光不眨眼等等。
但由于新型假造方法层出不穷，反深伪检测技能也须要持续更新与迭代优化。
技能监管尤为主要
正如一枚硬币的两面，AI换脸技能一方面可能触及隐私和伦理的敏感边界，另一方面却也为视频制作、生理疗愈等领域带来了新的可能性。
在爆火的短剧领域，利用AI换脸技能可以快速将海内短剧中的华人面孔转变成外国演员的样子容貌。布局出海短剧的易点天下已经开始考试测验利用AI换脸技能。易点天下社媒营销经理李佩玉在采访时表示，如果对质量没有过高哀求，那利用AI进行大略更换在韶光和资金上至少可以降落20%的本钱。
同时，业内也涌现了“AI疗愈”的考试测验，即利用AI换脸技能将客户逝去亲人的外面附加在专业生理咨询师脸上，随后与客户进行视频谈天，以此提升生理疗愈的效果。
如何界定运用技能的边界是多方关注的焦点，个中做事供应方所扮演的角色尤为主要。
业务涉及“AI疗愈”的超级头脑创始人张泽伟见告界面新闻，团队会事前明确委托人的诉求、与“克隆人”的关系，接单前也会与客户签署条约避免产品被用于任何违法违规的路子。
这一做法与目前主流的AIGC产品不谋而合。小冰公司曾于去年5月于外洋发布“GPT克隆人操持”，称最短只要采集三分钟数据，即可创造源于本人性格、技能、声音、外面的AI克隆人。
据小冰CEO李笛所说，在利用“GPT克隆人操持”做事前，利用者需供应本人权属证明，如是企业用户申请则需供应业务执照。同时他强调，该做事并未开放任何API接口，仅可在该平台内利用，不会存在转接至社交平台上的情形，公司内部也会配置技能手段以戒备自身做事被用作他处。
伴随ChatGPT在海内迅速掀起天生式人工智能浪潮，海内针对AIGC产品的干系监管也快速跟进。
《天生式人工智能做事管理暂行办法》中规定天生式人工智能做事供应者涉及个人信息的，应该取得个人赞许或者符合法律、行政法规规定的其他环境；创造利用者利用天生式人工智能做事从事违法活动的，应该依法践约采纳警示、限定功能、停息或者终止向其供应做事等处置方法，保存有关记录，并向有关主管部门报告。
李昀锴状师也指出，当前通过互联网供应AI做事的应该属于电子商务范畴，须要按照《电子商务法》、《网络安全法》履行相应的监管责任。“至少平台要做到利用主体真实性的核验，也要做到法律任务的提示；如果创造侵权内容平台该当及时采纳删除、下架、屏蔽等相应方法；如果是涉及到刑事犯罪，平台要主动去进行证据保存，并主动向属地公安机关报案。”