上个月,中国喷鼻香港警方通报了一起喷鼻香港史上最大的诱骗案,涉案金额高达2亿港币。
受害人是一名跨国公司员工,他受邀参加一场线上会议,领导、同事、财务科科长都在。
会议上,在“领导”的指挥下,他把2亿港元先后分15次转入了指定账户。

直到一周后,受害者才创造事情不对,全体线上会议中就他一个“真人”,其他人,全是用AI换脸的“假人”。

人工智能大模型浪潮席卷环球已经一年,很多行业被深刻地改变了,而AI数字人已经率先渗透进我们的生活。

低价、方便,一键天生

你正在看的短视频案牍翻译出镜剪辑全都是AI

听起来离谱,但AI换脸和AI数字人确实是离我们最近的AI技能,乃至比ChatGPT还近。

不须要专业的设备,不须要繁芜的操作,像剪映这样的视频制作软件,早已将数字人的门槛降到近乎为零,免费、大略、速率快。

从运用商店下载剪映之后,点击“开始创作”,随意从相册中选择一段视频或一张照片。
之后,选择“新建文本”,在文本编辑选项中就可以看到AI数字人了。

目前,剪映供应了35款数字人,从邻家姨妈到拉丁美女,从豁达校草到西装白男,各种不同的人种、年事、声线、姿态随意选择。

数字人的口型会根据文案调度,讲话抑扬抑扬,头部和手部随讲解自然运动,如果不是左上角的“AI天生”水印,真的很难区分到底是专业主播还是数字人。

不妨大胆一点:用AI自动天生文案,之后用AI翻译成英文,末了再用外国AI数字人讲一遍,五分钟就做好了一个质量尚可的1080p广告大片。
做视频根本不须要团队,文案、翻译、主播、剪辑,都可以是AI自己。

在商业赛道上,数字人的表现更是一骑绝尘。

京东早在2022年就上线了“言犀”数字人主播。
这个数字人能阅读商品的先容之后,自动天生卖点文案,并完成口播。
它主打的是“闲时直播”,帮助店铺在深夜、清晨等韶光段补充直播空缺。

根据京东官方数据,2023年双11期间,超过4000家品牌的直播间用上了数字主播,闲时直播的转化率增长了 30%。

百度也推出了“慧播星”数字人方案,并打出了全栈口号,号称只须要三步,最快三分钟就能创建一个自己的数字人主播。
此外还有腾讯智影、百度智能云曦灵平台、华为云盘古数字人等等产品可以选择。

就像你想的那样,骗子来了

从文案到视频都由AI天生,还真有人这么做了。

本钱降落是数字人骗局能规模化的条件条件——当骗子自己一人五分钟就能做成一条质量尚可的视频,那些曾经归于真人出镜视频的可信度已经荡然无存了。

如果你常常刷短视频,时时时就能看到一些鸡汤营销号,“人生的八个原形”、“女人过了30岁要懂的七件事”,“如何做才能在五年后和同龄人拉开差距”,都是它们的热门话题。

最近,一些浓眉大眼的老外也加入了这个赛道。
比如下面这个:

一个外国美女,站在镜头前面讲着英文,娓娓道来“低谷时牢记的七条原则”。
什么“不要随意评价别人”“逢人只说三分话,不可全抛一片心”……

仔细一看,她讲的英语也是散装机翻英文。
比如把“做人要有城府”翻译成“must have a city government”。

对不懂英文,也不常看科技新闻的用户来说,这类视频的迷惑性相称之大,他们很难分辨哪些内容是真人,哪些内容是AI。

微信视频号上有一支“GPT谈不生孩子如何养老”的视频广为流传,点赞转发都有上万条,评论区的叔叔姨妈们对AI的见地啧啧称奇。

但实际上,那个视频的原作者只是将一段网上流传良久的文案输入GPT,让GPT朗读出来而已。

“老外数字人”也是一样。
同样的文案,换成英文由老外来讲,彷佛天然就自带了某种“外来和尚”式的精确性,更有利于传播。
也有一些账号反其道行之,让数字人老外讲一口蹩脚的“洋味儿中文”。

去年十月,这类“假老外数字人账号”开始在短视频平台盛行,有些账号仅仅发了三四十条视频就涨粉数十万,很多作品都有超过一万的点赞量。

至于他们变现的手段,最直接的便是卖货。
比如某个育儿话题的账号,在粉丝增长之后,用老外的口吻先容了各种育儿图书。
不少家长都信以为真,还有人夸数字人“言语清晰,大方有力”。

把货买回去之后,才创造根本不是那回事儿。

是谁偷了我的脸?

看着这些生动活泼的假人,我不由好奇,AI数字人的脸是哪来的?

在《黑镜》第六季《Joan is Awful》一集里,大明星和流媒体签署了协议,之后的电视剧不用亲自参演,只要用AI把脸换到替人或者模型身上,钞票就一直滚滚来。
至于流媒体用自己的脸演了些什么,明星绝不知情。

《黑镜》还是想象力匮乏了,影片中的未来早已到来,而且用人的脸连钱都不给。

三月初,有媒体宣布了乌克兰视频博主Olga Loiek的离奇遭遇:她原来只是一个YouTube上粉丝一万的小博主,她有时创造,中国的很多网络平台上竟然涌现了以自己的脸作为模板的AI数字人短视频。

这个数字人自称娜塔莎,31岁,住在俄罗斯。
账号内容大都因此俄罗斯女性身份夸赞中国,并借机带货俄罗斯产品,粉丝数达到20多万。

2022年,一些短视频平台上涌现过一个名为“俄罗斯娜娜”的账号,滤镜拉满把自己换脸成俄罗斯人,路线和“娜塔莎”一模一样。
粉丝数一度打破180多万,随后被平台封禁。
但在那之前,她已经通过带货获利数十万元。

更麻烦的是,此类诱骗行为险些是零风险的。
受害者每每远在国外,无法直接追责。
而它们带货的商品不是假冒伪劣产品,消费者也无法投诉。
只有在被戳穿之后,由平台自行监督。
但那时,骗子每每已经赚到盆满钵满,跑路开下一个号去了。

在过去,虽然也有干系殊效软件可以实现人脸模拟,但所需的技能难度非一样平常人可为。
而AI大模型,让这一操作的难度降到险些为零。
根据媒体宣布,仿冒Loiek的运营团队利用的,是一款名为HeyGen的AI软件,月费只要几十美元,所需素材,不过是当事人的几段视频。

数字人出身不到两年,已经搅浑了短视频和直播赛道,技能的进步和贬价如此之快,连《黑镜》里预测的未来都显得后进了,谁知道下一步AI会把我们带进若何的天下里呢?我也不愿定那是不是更好的天下。