而南都在小红书等平台看到，有“外国人”读着一段段家长里短类型的心灵鸡汤，虽然是英语，但内容明显是盛行的段子。有睿智的“外国老人”也有理性的“外国美女”，语音口型和体态动作都无懈可击。原来，非专业技能职员就能用AI变脸做日常视频了。要不是他们说的内容太鸡汤，他们每次姿势又非常相似，如果仅看一次南都也难分辨真假。
AI“翻译”以假乱真
引网友担心视频造假
此前，AI实时换脸，在直播间里涌现。AI换脸“杨幂”“迪丽热巴”卖货曾引热议。稍加甄别，便不难创造带货“明星们”多是主播“换脸”而成。
一款AI人像视频工具，只需上传视频，选择措辞，就能天生自动翻译、音色调度、嘴型匹配的新视频。比拟原片，AI“翻译”后重新配音的新视频不仅进行了较准确翻译，而且连声线和感情都近乎拟真，嘴型很贴合，难辨真假。对此，有网友表示，这种技能看起来很炫酷，运用处景很广泛，未来可能会越来越成熟，比如翻译配音会很自然、真切。
但也有网友表示担忧，“这会不会被用来模拟声音进行诱骗？”“再加上换脸，往后网上啥都不能信了。”“往后视频造假会越来越随意马虎。”还有网友表示，“希望AI技能发展能被掌握在正轨，技能滥用，便是灾害。”
AI换脸换声技能
让已故演员重现屏幕
近年来，AI技能被广泛运用于短视频的二次创作，比如AI换脸及换声等。可以说，AI技能是把“双刃剑”。
一方面，AI换脸及换声技能对付事情效率的提高具有非常强的浸染。清华大学新闻与传播学院教授司若举例说，AI换脸及换声技能让已故的演员、历史人物可以通过换脸技能重现在屏幕上，在不同国家的措辞转译上也可以通过AI的换声技能进行实时转译。
另一方面，近年来，有不法分子为了牟利，利用AI技能进行诱骗。比如利用AI换脸伪装熟人诱骗，乃至将“魔爪”伸向儿童，或者制作发布假新闻稠浊视听、赚取流量等。
此外，AI换脸、AI换声还存在法律风险。近期，不少相声演员“说”英文相声、小品演员“演”英文小品的视频在网络上传播。对此，北京岳成状师事务所高等合资人岳屾山状师表示，用AI技能为他人改换声音、做“翻译”并发布视频，可能涉嫌侵权，紧张有三个方面：一是著作权，网友用AI软件将相声、小品等“翻译”成其他措辞，需经由著作权人授权，否则就存在侵权问题。二是肖像权，网友用他人形象制作视频，并在网站发布，须要取得肖像权人的赞许，否则涉嫌侵权。三是声音权，须要取得声音权人的赞许，才能够利用他人的声音。
从技能层面和法律层面
对AI技能加强监管
AI技能发展，须要多层面约束规范。在源头端，须要进一步加强公民个人信息保护。专家建议，加强公民信息尤其是生物特色等隐私信息的技能、法律保护力度。
在技能层面，数字水印鉴伪等技能有待进一步遍及利用。比如AI天生的视频需带有不可肃清的“AI天生”水印字样。
国家也在通过多重手段戒备“AI换脸诱骗”，近两年，干系部门先后出台了互联网信息做事深度合成管理规定、天生式人工智能做事管理暂行办法等有关政策文件，先后开展了“互联网深度合成算法备案”“大措辞模型算法备案”等有关的事情。
在法律制度层面，进一步完善人工智能等领域干系法律法规。今年8月15日，《天生式人工智能做事管理暂行办法》正式施行。《办法》规定，供应和利用天生式人工智能做事，应该尊重他人合法权柄，不得危害他人身心康健，不得侵害他人肖像权、名誉权、名誉权、隐私权和个人信息权柄。
中国科学技能大学公共事务学院、网络空间安全学院教授左晓栋表示，总体而言，天生式人工智能仍处于发展的初期阶段，风险没有完备暴露，运用前景无法计算，以是应该采纳原谅谨严的态度，坚持发展和安全并重、促进创新和依法管理相结合，要采纳有效方法鼓励天生式人工智能创新发展。
据理解，目前我国人工智能家当发达发展，核心家当规模达到5000亿元，企业数量超过4300家。随着各项方法规范出台，我们期待未来人工智能发展更加康健规范，从多方面助力人们的事情和生活。
网友说法
对新技能运用应持原谅心态 同时应有规范方法
对此，有网络话题提出，一些博主利用人工智能工具，将明星视频片段转化为英语、日语等，或将外国明星视频转为中文。这些“AI嘴替”险些逼近真人说话的腔调与语气，翻译水准也几近专业层次。对付“AI嘴替”，你怎么看？
有网友对此点赞，例如，网友“盲目的Clio”表示：我希望往后这种翻译直接能够让人类无障碍互换。而网友“五月晴”说：人工智能运用落实干系规定和制度当然有必要，但也不妨对新技能的新运用和新发展多持一些原谅心态，才能更好避免扼杀创造的可能性。网友“都是小吨的错”说：如果往后的译制片能用到这种技能，不雅观感该当会上很大一层楼，演员本人音色说完美流利的中文，想想就很酷。
不过，也有网友表示担忧，例如网友“yooukip”说：对人工智能AI的发展感到担忧，现在已经证明被喂了大量素材的AI可以在获取他人信息的情形下假造新的讯息涌现以进行造孽活动。希望可以尽快涌现规范方法，不要让AI成为违法犯罪滋长的温床。
对自己生物特色数据 加强安全防护
有专家表示，预防“AI换脸诱骗”，大家还要加强对人脸、声纹、步态、指纹等生物特色数据的安全防护。中国科技大学公共事务学院、网络空间安全学院教授左晓栋提醒，在利用互联网做事或者在社会生活中哀求输入我们的人脸等生物特色数据的时候，我们要看一看对方网络我们的生物特色数据是不是符合数据安全法，个人信息保护法的哀求是不是合法正当和必要。
鉴别AI换脸方法
让对方在脸部做动作 可创造合成马脚
目前视频换脸的技能上也不是无懈可击的，在视频沟通时的一些动作，就可以创造马脚。深圳安络科技副总裁肖坚炜说：“在这个操作中，如果我用其余第三个图像去滋扰它，也就相称于他在拍这个视频的时候，我让他用手捂脸动一动，它就会滋扰到它这个图像的一个合成。我们可以从演示看到效果，我把手放上去之后，会明显地看到他的眼睛在抖动，他的鼻子在抖动，我的手已经消逝了，嘴巴也消逝了。”
肖坚炜先容，还可以通过软件来识别，比如更换的眼睛、鼻子、嘴巴和轮廓，像素大小是不一样的，颜色的色域是有差别的，这些我们肉眼看不出来，但是软件算法是可以检测出来的。
整合/采写：南都 陈欣