该运用在iOS商店里排在前列的评论
01
你看过它的“用户协议”吗？
“ZAO”用户协议（部分）
换脸视频会陵犯肖像权、著作权、影视改编权等，还待法律意义上的厘清。
在“ZAO”之前，已经有不少类似的软件存在，但多数还属小众。不妨把它的火爆，视作一种提醒：
这种技能离我们如此之近，未来某天，如果创造自己涌如今某条色情视频中、被人指控从事诱骗，或者听说有人替你和亲朋好友通过话，你都不要太过惊异……
话题的谈论让人们把稳到同类技能中的安全问题
02
挡不住的技能
下面的动图截自早前一些利用 AI 换脸技能制作的情色片。现在的技能已经更为强大。
“艾玛·沃森”
“娜塔丽·波特曼”
“斯嘉丽·约翰逊”
今年初，斯嘉丽·约翰逊就在多个场合，炮轰这种假色情片行为。她说：
“互联网是一个巨大阴郁的虫洞。我没法阻挡一个陌生人把我的照片拼接到另一个人的身体上。这件事对我个人造成的影响不大，由于大家都知道那不是我。但是我希望，女性和小孩们今后在网上能够倍加小心。由于很快就会有普通人被盯上。”
事实上，针对普通人的假色情片制作已经形成了一个灰色家当。
在海内很多网络交易平台上，100元就可打包200部换脸情色片，席卷海内一二线女明星；定制换脸视频，低于1小时只需100元，可为你制作自己同事、同学或朋友的假色情片。
“ZAO”的app宣扬页上写着“仅需一张照片”。假色情片制作同样只须要照片而已——而你的这些个人照片，网上可能很随意马虎找到，对吧？
有一天，如果你中招涌如今某个不可描述的画面里时，连嫌疑人都很难锁定。
换脸视频的受害者险些没有反击的工具。美国法律专家表示，换脸视频每每难以追踪，无法调查，而且存在一个法律灰色地带：它们建立在公开照片的根本上，实际上是新的创作，这意味着它们可以作为辞吐自由受到保护。
几个月前，有个ID为“阿尔贝托”（Alberto）的程序员开拓了一款名叫DeepNude的运用：只须要上传一张女性照片，该运用就能自动移除女性身上的衣服并“补充”出裸体。
这种“一键脱衣”利用的是和AI换脸类似的算法。后来，迫于全网压力，DeepNude宣告下线。
但就像开拓者辩白所说，“技能已经发展到这一步了，如果我不这样做，别人也会在一年内做出来。”
技能本身是挡不住的，以是更须要人们来予以约束。
谷歌公司在这个问题上的态度也很有代表性。他们说自己很重视道德任务，但认为如果对新技能严加限定，可能会让延缓开拓出一些对人类有益的用场。
打算机科学家法里德认为这是一种狡辩：“你能想象一个生物学家对人们说：‘嘿，这有一种非常酷的病毒，我们看看如果大家都能传染它会怎么样’吗？”
法里德说：“这项技能太不成熟了，科技公司必须放慢推广它的步伐。”
04
它会摧毁我们对外界的信赖吗？
“ZAO”在图片上传时，对公众年夜世人物的照片进行了拦截。有用户疑问说：“它如何充分定义和识别"大众年夜世人物呢？”
这种拦截，是由于"大众年夜世人物的换脸视频危害更大，特殊是利用他们来揭橥一些不雅观点。奥巴马、特朗普，都曾是此类视频受害者。
今年6月初，一则以Facebook总裁扎克伯格为素材的换脸视频在Instagram上传播开来。在视频里，假的扎克伯格说：“试想一下，一个人拥有几十亿人的数据，他知道这些人的秘密、他们的生活，乃至他们的未来。而这些数据全是偷来的。”
“AI换脸”扰乱美国政坛, 扎克伯格也成受害者_腾讯视频
扎克伯格的“受害”视频，以及AI如何滋扰美国政坛。
它以扎克伯格的名义讽刺了他自己。
此前，扎克伯格一贯对Facebook上的假视频态度暧昧，强调不应该由平台来判断什么是真假。
到6月尾，扎克伯格宣告，Facebook已经在制订新的换脸视频监管政策，来预防它们造成恶劣影响，并且表示：在未来，Facebook可能会完备禁止换脸视频。
而与此同时，“语音克隆”也取得了打破，现在，只需供应几秒钟的语音样本，就可以仿照出非常相似的人声。百度，谷歌、Adobe等公司都在开拓相似的项目。
视频加上声音，恐怕你自己来鉴别都会有难度。
“人在家中坐，祸从天上来。”未来不要觉得太奇怪。
当这种换脸视频的泛滥，耗尽人们去核查辨别的耐心之后，这种新技能很可能会摧毁公民社会里的相互信赖。
你如何看待换脸AI？
紧张参考资料：
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
阅读原文：刷屏的“换脸”，有什么风险？
点击链接即可阅读
没结婚的情由
“步调同等”的狂热
他那天到底想跟我说什么呢?