AI前哨站把稳到,近日,有外国开拓者推出了一款名为“DeepNude”的运用,包括客户端版和网页版。输入一张女性照片后,该运用可以“自动脱掉”女性身上的衣服,天生一张假造的裸体照片。
····根据穿衣服的正常照片天生女性裸体照片
据DeepNude官网先容,技能职员开拓了一种“前辈的人工智能算法”,可以识别并删去照片中人物的衣物。
美国媒体Motherboard的测试显示,在肤色、着装不同的数十张照片中,高分辨率照片的转换结果最为自然。同时,原始照片中女性袒露的皮肤越多,转换的结果彷佛就越好。例如,输入一张女性穿着比基尼、正面对着镜头、高分辨率的照片后,转换出图片相当地逼真。算法准确地添补了原来被衣服的身体部位的细节,乃至添补了胸部下的阴影。
不过,仔细辨认可以创造,假造图片会有细节模糊、局部画面边缘呈锯齿状、液化状等瑕疵。在Motherboard的测试中,分辨率低的照片经由转换后,瑕疵会更加明显。
左侧为真实照片,右侧为假造图片。图自 Motherboard。
AI前哨站把稳到,DeepNude网站所留的联系地址位于爱沙尼亚。其开拓者则化名为Alberto接管了Motherboard的采访。 他表示,该运用是基于加州大学伯克利分校研发的开源算法pix2pix创建的。pix2pix利用了天生式对抗网络,演习算法时须要弘大的数据集来支持——Alberto说,在演习DeepNude时,他利用了1万张女性裸体图片。
在Motherboard的测试中,男性照片被上传后,转换出的也是女性的身体器官。Alberto阐明称,他也希望能创建一个男性版本的运用,但DeepNude目前只能用于女性图片,由于女性裸体图片更随意马虎在网上找到。
Alberto对Motherboard说,大概两年以前,他开始研究人工智能。当他创造天生式对抗网络可以将白天的照片转换为夜晚的照片时,他意识到,把一张穿着衣服的照片转换成一张裸体照片也是可行的。他自称不是“偷窥者”而是“技能爱好者”,做这个实验是由于乐趣和好奇。
DeepNude官网上展示的图片处理过程。
····迅速招来担忧与批评:很随意马虎被用于色情报复
该运用目前有免费版和付费版。据Motherboard宣布,免费版天生的图片大幅的明显水印;付费版天生的图片水印减少,图片左上角有赤色的“FAKE(假造)”的标识。但宣布指出,用PS之类的图片工具切掉左上角的“FAKE(假造)”标识非常随意马虎,到时候图片就真假难辨了。
左侧为真实照片,右侧为假造图片。图自 Motherboard。
据理解,DeepNude利用的算法,与常常被用于换脸的Deepfake类似。此前,有Reddit用户上传大量色情视频,将原始演员的脸换成了浩瀚有名女明星的脸,如盖尔·加朵、艾玛·沃森等。很多人认为,这将导致虚假视频泛滥,影响女性权柄。
还有网友提出,这大大方便了那些喜好色情报复的人,他们可以将报复工具的脸换到色情视频里——所谓色情报复,指的是情侣分离后,被甩的一方公布另一方的裸体照片等私密照片和视频。在国外已有许多这样的案例,受害者每每是女性。
和Deepfake一样,DeepNude的涌现迅速招致了担忧和批评。
“这绝对是恐怖的”,活动组织revenge porn的创始人兼首席实行官Katelyn Bowden表示,“现在任何人,乃至在根本没有拍过裸照的情形下,都可能创造自己成了色情报复的受害者。这种技能不应该向公众年夜众开放。”
马里兰大学法学院教授Danielle Citron认为,DeepNude是对性隐私的陵犯。“是的,这不是你真正的私处,但别人会以为他们看到了你的裸体。一个Deepfake的受害者曾见告我,她以为有上千人看到了她的裸体,她的身体彷佛不再是自己的了。”Citron表示。
Alberto声称,他也问过自己,该当做这个运用吗?是否会侵害到别人?但他表示,技能已经足够成熟了,即便他不做,也会有别人来做。“如果某个人有不良意图,有没有DeepNude差别不大。”
加州大学伯克利分校教授Hany Farid看到DeepNude后相称震荡。“在检测深度假造内容方面,我们还得做得更好。若何更好地保护技能进步,阻挡技能被武器化或是被用于一些非操持的、有害的用场上?学术界和研究者该当有更多辩证地思考。”Farid对 Motherboard说。
他同时指出,社交媒体平台该当更加谨慎地思考,如何界定深度假造内容,如何环绕这类内容制订规则。立法者也须要思考相应的监管方法,以在这一领域内做出寻思熟虑的调控。
专注于色情报复的状师Carrie Goldberg在接管Motherboard采访时说,只管美国许多州有关于禁止色情报复的法律,但深度假造技能的涌现就像是对法律的公开挑衅:由于深度假造内容展示的实际并不是被报复者的身体。
她表示,无论是色情报复还是深度假造内容,都建议大家不要去点击、点赞或是分享。在她看来,"大众年夜众有任务抵制这些内容。人们该当道德地利用互联网,而不是在网络ID的粉饰之下为所欲为。