这几天，微博首页被韩国女生的乞助信息刷屏了。
在此，为不理解情形的朋友梳理一下来龙去脉。
一、8 月初，韩国网友震荡地创造“N 号房”事宜彷佛卷土重来。
在 Telegram 上，一个利用 AI Deep fake（深度假造）技能制作并传播色情图像的谈天室吸引了 20 多万男性受众。
这些人偷拍身边的女性，将她们的脸或躯体合成到成人影片里。
再把这些淫秽图像传到群组中供人“品鉴”和意淫。
被深度假造的工具包括女兵、女西席、女护士、女大学生以及未成年小女孩。
而犯罪者大多是青少年。
志愿者卧底创造，险些每所学校都有一个秘密的男性谈天室。
某些群组成员乃至哀求新加入者必须提交自家女性家庭成员的全身照片作为“投名状”。
于是，一些男孩将偷拍手段用到了自己的姐妹乃至妈妈身上。
更有甚者，趁着妹妹睡觉去掀她的裙子。
这件事情在韩国造成了极为恶劣的影响。
500 多所学校被牵扯个中，就连延世大学、首尔国立大学和高丽大学等名校也有师生参与个中。
年轻学生对这种深度假造的“游戏”乐此不疲。
他们不但不认为这是邋遢的犯罪行为，反而责怪举报者小题大做、不懂诙谐。
当讯问他们为何要用熟人照片时。
他们回答：“这样更真实。”
追问：“你们不怕被抓吗？”
他们直接回怼：“只有傻瓜才会被警察逮住。”
境外网站的暗藏性让他们有恃无恐，而这种心态让韩国女性极为愤怒。因此，一群韩国女生注册微博，呼吁外国人关注韩国正在发生的事情。
那么，这种下作的犯罪行为，韩国女生为何不找韩国总统和韩国警察处理，反而跑来中国求救呢？
这是由于韩国女性对韩国的公权力失落望透顶。
她们深知，无论是韩国警方还是尹锡悦政府，都难以革除这种恶劣且暗藏的性剥削。
一方面，韩国总统尹锡悦本便是靠着“反女权”辞吐当选的；
另一方面，李胜利的所作所为只受到了很轻的惩罚。
据知情人士透露，韩国青年（15 - 29 岁）男性人口有 430 万，而 Deepfake Room 的用户有 22 万。
也便是说，差不多每 20 个男性中就有一个是“房中人”。
由于法不责众。
警方处理案件时每每只抓主谋，很难惩办每一个用户，一些狡猾的人趁机钻空子跑路，躲避法律制裁。
与此同时，考虑到事宜的影响面实在太广，就连韩媒都开始对这件丑闻进行冷处理。
韩国女士们直言：“韩国女性没有国家。”
“我们生活在一个无法有效惩罚或预防针对女性犯罪和暴力的社会中，失落去了日常生活的安全感，仿佛生活在一个没有国家的状态中。这样的社会还有存在的必要吗？”
除了中国，她们也在其他国家的社交平台发帖求救，希望借此得到全天下女性的声援。
同时也希望国际舆论能向韩国政府施压。
我们为何要关注这件事呢？
由于被换脸的胆怯故事不仅会发生在韩国女性身上，还可能发生在我们每一个人身上。
没有牵制的深度假造技能可以轻松毁掉每个人的生活。
将女性的脸换到色情片上的征象，显然不止涌如今韩国，中国、美国、欧洲等国家和地区的女性都遭遇过类似的事情。
2017 年，有人在 reddit 上开设换脸版块，专门和“志同道合”的网友一起，将女演员的面庞深度假造到色情影片上，受害者皆是有名女性艺人。
而且，这乃至已经形成了一条家当链。
有人收钱定制这些女明星的换脸淫秽视频牟利。
深度假造技能带来的问题乃至不止与性有关。
我们不妨设想一些场景。
如今很多年轻人在外事情，留下父母在老家，平时沟通紧张靠网络，最常用的便是视频通话。
假如这视频被假造了呢？
当父母远在千里之外，溘然接到你的乞助电话，紧张不安地说自己碰着了麻烦，缺钱花，希望他们能帮帮你，父母会是什么反应呢？
焦急之下，他们除了先打钱还能做什么呢？
要知道，联系办法这天常平常的联系办法，视频对面的人是他们熟习的你，说话的声音也没有差异，他们除了担心，又怎么会疑惑你不是你呢？
毕竟父母对这些科技知之甚少，很难防备。
还有很多可能的情形。
如果有不安好心的犯罪分子节制了你的形象以及更多的身份信息呢？
他们完备可以拿着你的身份去网恋、去裸聊、去作为杀猪盘的素材、去搞诱骗、去犯罪。
反正这些事现在都可以通过网络来完成，套上 AI 这个壳子，他就成了你。
而且，现在的 AI 技能都可以做任何表情和动作了，直接解锁银行卡的面部识别信息恐怕也不在话下吧。
假如直接以你的名义去贷款，然后把钱卷走后留下一屁股债。
你又该如何应对呢？
恐怕要等某天溘然有人敲开大门来讨债，才知道原形吧。
假如那些"大众年夜世人士被 AI 化就更麻烦了。
你看现在电视上那么多明星代言卖货直播，好多人如蚁附膻，可万一那些视频背后不是本人，而是 AI 假造出来的呢？
反正输入什么，AI 就能说什么。
那某些三无产品、金融产品等，岂不是想让谁站台就能让谁站台，谁更有号召力就让谁来代言？
切实其实无法无天。
搞不好还有人趁机打着某些公众年夜世人物的旗号，去到处寻求互助，让人家先交定金，或者私下搞些传销、传教之类的违法活动。
反正这种大名鼎鼎的主要人物肯定是见不到面的，只有视频让大家沟通也很合理啊。
谁知道剥开 AI 那层皮，里头到底是谁呢？
更糟糕的是。
如果不法之徒节制了某些主要人士的形象，他们完备可以躲在背后，以这些主要人士的身份去揭橥很多主要辞吐，来勾引舆论、重塑规则。
觉得天下都要乱套了。
我们还可以多想一层。
万一有人用邪术来对抗邪术呢？
比如故意露出马脚，让人以为视频是 AI 做出来的效果，好显得自己是被陷害的无辜。
但实在根本便是本人的千层套路呢？
而且，现在的技能肯定不是 AI 的顶峰，再这么发展下去，搞不好还能结合全息技能，搞出那种肉眼都分辨不出来的效果，一个人眨眼就变另一个人。
那时候，别说影像了，眼见都不一定为实。
我站在我妈面前，我妈可能还得和我对上八百个暗号，才能分辨出来我到底是我，还是骗子。
光是想想，就以为更不寒而栗了。
四、说这么多，并非骇人听闻，更不是杞人忧天，现在国内外都已经有很多案例了。
有的仅仅依赖 AI 配音，就能大骗特骗。
美国 CBS 电视台做过一期节目，现场展示黑客通过克隆声音来窃取信息的过程。
全体过程可谓是迅雷不及掩耳之势。
仅用了 5 分钟，对方就通过 AI 克隆确当事人的声音，并且通过工具更换了手机来电显示，从而成功骗过了身边的人，获取了相称多私人信息。
海内的“靳东”骗局也一贯存在。
很多直播间循环播放着明星的视频，再加上后期配音的旁白，就吸引了很多姨妈的关注。
姨妈们听到声音误以为这便是真的明星，没想到都是骗子利用 AI 软件仿照出来的声线，目的当然只有一个——骗钱。
有人胃口更大，不甘心只骗普通人的小钱，还要骗公司的大额投资。
于是伪装出男明星的声音去谈互助，好在公司比较当心，才没能让对方得逞。
现在又有了 AI 在视频方面的赞助，骗子更是如鱼得水，让人防不胜防。
前几天看综艺，黄晓明说曾经创造自己在不知情的情形下，给某个品牌代言了。
不仅有自己和刘亦菲参加品牌活动的视频，还在现场讲了很多品牌干系的内容。
但他本人对此却毫无印象，就很恍惚。
后来才知道，这视频是用 AI 做出来的，发言也都是 AI 操作的结果。
连本人都差点被忽悠，何况看视频的其他人呢？
现在某些直播间开始用 AI 换脸明星搞带货，不知情的人又怎么能区分呢？
国外也一样。
斯嘉丽前几天告了一名 AI 程序开拓者，由于对方直接用她的形象和声音来打广告。
明明是《黑寡妇》的幕后花絮，摇身一变，就成了 AI 程序的宣扬广告。
好一个偷天换日。
网络上本来就很随意马虎涌现那种看图说话的假，常常一张图下去八百个故事就编出来了。
如今有了 AI 技能，你想编什么故事，它就给你凭空造出什么，真与假、是与否的边界更加模糊。
反倒更方便了造谣传谣的人。
也给了不法之徒发挥空间。
有人分享过更恶劣的被骗经历。
骗子截取到他的人脸识别视频，然后利用 AI 换脸技能，拼接出一段裸聊视频，然后威胁当事人要把这视频群发给他的通讯录好友们。
纵然当事人知道自己并没做过这样的事，也会在一瞬间陷入惶恐，然后被骗子榨干代价。
或许你会说不要相信网上那些人就好，但是万一 AI 伪装成你熟习的人来寻求帮助呢？
福州的郭师长西席就碰着过这种情形。
一位好友打来微信视频，要求帮助。
虽然对方一开口便是 430 万这样的巨款，但微信视频已经打消了他的疑惑，他二话不说转了钱。
哪知道，这年头视频也能造假。
视频对面的也不是真朋友，而是披着 AI 外皮的骗子，只是用了换脸和拟声的手段。
提及现在这些套路，就频年轻人都难分辨，每每看到都要感慨一句，学无止境。
假如那些本就对网络科技知之甚少的老年人碰到，就更随意马虎上当受骗了。
反倒是骗子，总是走在学习新技能的前沿。
虽然都说互联网是虚拟的，但很多时候构建起互联网的底层逻辑却是真实和信赖。
这下可好，人与人的信赖岌岌可危。
名人会被深度假造出自己从没讲过的话，喜提鲁迅同接待遇。
上班族会被深度假造出的老板骗得云里雾里。
之前就有个公司财务，被拉进一个视频通话群组里，里面每个董事会的老板都在。
然后财务就被“换脸”老板们骗走了 2 亿多港币。
老人会被深度假造出的子女骗到倾家荡产。
普通人会被深度假造出的莫须有视频弄得百口莫辩……所有“原形”都可以被假造，所有人都可以被技能玩弄于股掌之间。
AI 时期，没有原形。
在这种情形下，我们该怎么办呢？
“科学技能是第生平产力”。
这当然是事实，毕竟我们直白地享受着科技发展带来的好处。
与此同时，我们不该忽略科技可能带来的毁坏性。
伴随着高速的科技发展，社会构造欢迎着巨大冲击，固有的生产模式更频繁地遭遇被淘汰的命运，无法及时跟上发展的人经历着动荡。
我们总说科技的发展是双刃剑，但它的剑刃究竟指向哪方，是由人来决定的，而非由技能。
以是，比担心 AI 技能的失落控与风险更主要的是，加强对 AI 天生内容的监管，增加限定。
总好过让它不受约束地自由发展。
毕竟现实中，开锁的师傅都得去公安局备案，更何况是这些更不受控的内容呢？