新规来了。
在这份刚刚印发的《网络音视频信息做事管理规定》中，四次直接提及深度学习，基本可以看做是针对AI造假视频的一次针对性管控。
2017年底，deepfake换脸技能涌现以来，各种利用AI技能造假的视频层出不穷。而且随着技能的进步，造假视频已经变得越来越真假难辨，也引发了环球范围内的担忧。
现在，不能利用AI技能乱来了。
海内的各位朋友，再搞AI换脸的视频等操作，请把稳这些新规定。
对普通用户：
发布非真实AI音视频时，要以显著办法标识出来。不得利用AI技能制作假新闻。对付做事商，除了上述哀求还有：
上线AI音视频做事，应展开安全评估。支配非真实音视频鉴别技能。及时停滞传播未显著标识的非真实AI音视频内容。建立健全辟谣机制。干系规定条款，我们截图如下。
新规定将于明年1月1日起施行。
《网络音视频信息做事管理规定》的详细内容，可以访问这个页面查看：http://www.cac.gov.cn/2019-11/29/c_1576561820967678.htm
deepfake“改变”天下
对付deepfake等基于深度学习的AI技能，环球都在想办法应对。
毕竟这种技能，可以用来换脸：
还能用来给身体造假：
本月，推特发布了首个反deepfake策略草案，并征集"大众年夜众见地。根据这个草案，如果一份deepfake假造的内容威胁到某人的人身安全或可能造成严重侵害，将会被删除。
包括微软、Google等国外公司也在研究如何自动鉴别换脸视频。
AI造假视频，也是最近几个月美国国会中最有争议的话题之一。此前，美国国际计策研究中央（CSIS）发布报告称，假造信息正在通过互联网迅速传播，毁坏了民主进程。
来自公民看点的宣布中写道：
Deepfake被认为是一种毁坏民主的工具。美国情报界发布的2019年环球威胁评估（Worldwide Threat Assessment）中就警告称，恶意攻击者或计策竞争对手可能会利用deepfake技能或类似的机器学习技能来创建看似逼真但实在是假造的图片、音频和视频文件来加大针对美国和其盟友的活动的影响。
CNBC网站在其宣布中称，“deepfake”将成为“2020年美国总统选举中的大事宜”。就像2016年的“虚假新闻”一样，“deepfake”视频将在2020年的美国大选中，掀起更强大的血雨腥风。
2019年10月，美国加州州长Gavin Newsom签署AB-730法令，明确指出，如果散布假造的信息使"大众年夜众对政治人物的辞吐、行动产生缺点或有害的印象，将是犯罪行为。
7月，美国弗吉尼亚州也发布了禁止deepfake滥用的禁令：未经当事人许可分享他人的袒露视频、照片属于违法行为，无论该照片或视频是真实的还是假造的。
今年6月，斯坦福、普林斯顿等大学发布了一项最新研究：给定任意文本，就能随意改变一段视频里人物说的话。并且，改动关键词后人物口型还能对得奇准无比，丝毫看不出修改的痕迹。
除了视频造假，AI在音频造假方面也不在话下。
来看一个真实的案例。
有人用AI技能假造老板的声音，打电话哀求转账，结果一家公司上当了，丢失了173万元。这家公司，是总部位于英国的一家能源公司。
要不是由于骗了一次还想急速骗第二次，这个骗局可能也不会立时曝光。
毫无马脚的变脸
如果你还没见识过deepfake的威力，以下是一些网友的大作。
此前，有一个名为“换脸哥”的B站用户将《射雕英雄传》中朱茵饰演的黄蓉换成了杨幂的脸，并且把处理过的视频发在了B站。
类似的还有，徐锦江换脸海王。
把《回家的诱惑》里男主的脸换到了“穿着品如衣服”的女性角色艾莉脸上：
更多例子就先不举了。
如果你想试试AI模拟声音的觉得，可以试试搜狗输入法里的“变声”功能。
如果你想试试AI换脸的觉得，可以试试此前曾在国内外掀起一阵旋风、继而引发广泛争议的App：ZAO。
One More Thing
北京下雪了，本日一早，量子位有个小姐姐跑去故宫看雪景。
这张是她发回的现场宣布：
祝大家周末快乐~
— 完 —
量子位 QbitAI · 头条号签约
关注我们，第一韶光获知前沿科技动态