名为ZAO的AI换脸软件红遍网络,然而好景不长,一夜爆红“ZAO”的微信分享链接目前已经被停滞访问了。
关于“ZAO”刷屏后所带来的隐私焦虑与风险担忧,仍在蔓延。

实际上,ZAO软件便是一款经改造的换脸APP,2017年发源于美国,称Deepfakes,是深度机器学习(deep machine learning)和假照片(fake photo)的简称(合称),最生动的称呼是深度(照片)造假。

既然是造假,当然要禁止。
它不仅可能产生因个人信息透露带来的各类不屈安,如果涉及犯罪,轻而易举的换脸操作也会让真假罪犯难辨,同时加大法律本钱。
当然,在一些国家,如美国,换脸还可能成为反恐的梦魇,既可以让胆怯分子很随意马虎通过换脸作案和逃脱,也加大了安全部门反恐的难度。

所有这些问题都是ZAO和相似软件可能产生的潜在危险和不屈安性,这也是人工智能为社会供应产品的同时人们一定面临的寻衅。
因此,如何监管才是最现实和最严厉的问题。

好玩的AI换脸也可能威胁国家安然

现在ZAO软件就面临着管理者禁与放的困难决议。
而对付换脸,美国欧盟等认为,即便是潜在的威胁,也极其严重,必须先脱手戒备。

今年1月28日,美国卡内基国际和平基金会专门揭橥文章《国家如何应对Deepfakes?》,指出,以Deepfakes为代表的换脸技能具有一系列潜在的危害,包括鞭策政治暴力、毁坏选举、扰乱外交关系、供应虚假证据并滋扰法律、履行敲诈等,希望各国明确定义Deepfakes的不正当利用,亟须社会定义什么可以接管,什么不可以接管,这既有利于社会和法律的管理,也有利于社交媒体规范其平台,管理网上内容。

今年6月13日,美国众议院情报委员会对Deepfakes举行了听证会,会上该委员会主席、众议员亚当·希夫称,修改视频的传播为2020年总统大选带来了一种“噩梦般的”场景,让议员、新闻媒体和"大众年夜众“难以分辨什么是真实的,什么是虚假的”。
因此,他和美国马里兰法学院教授达尼埃尔·西特龙建议国会考虑对《通信规范法》第230条(互联网做事不必为其用户的行为卖力)进行修正,以打击Deepfakes,保护用户免受假新闻的误导。

针对Deepfakes换脸技能产生的具有毁坏性的危险性内容,欧盟也在2019年初出台了应对指南,以帮助公众年夜众分辨某条信息的来源,信息是如何产生的以及信息是否值得相信。

可以看到,对换脸技能的潜在危险极为重视的美国和欧盟现在还没有出台法律予以禁止,只是在进行论证。
但迫于压力,美国的Reddit上关于换脸技能的谈论版被删除,换脸技能也在美国被全网封禁,其GitHub开源代码也被打消。

只管目前看来,ZAO软件还没有造成实际上的危害,但是,正如网友所指出,一个潜在危害非常实在:“有手机号,有面部图像,通过技能合成,犯罪分子可以替你和你家人通话了。
”因此,"大众的担心并非杞人忧天,有必要及早以明确的法律条款予以规范。

□张田勘(专栏作者)