近日，不少网友在社交媒体和短视频平台上开始秀出AI换脸内容，比较常见的是在热播剧中换上自己的脸或者喜好的明星的脸。但此举也引发网友担忧，AI换脸在影视剧中“大行其道”，这是否尊重演员和版权，这种换脸未来是否也会涌如今造孽视频里?
事实上，ChatGPT走红后，天生式AI技能的发展和运用，引发了新一轮AI技能热潮。多家巨子涌入，并开拓面向消费者的AI运用，让人工智能开始在用户生活中“生根萌芽”。但除了自娱自乐之外，不少人试取利用AI牟利，乃至做出违背伦理、触犯法律的事情。
如何让AI在不侵害人类的条件下，有利于人类和社会发展，正在成为新的课题。
当AI换脸走红
“终于实现和喜好的爱豆合照了”，有不少网友近日在社交媒体平台上晒出自己和爱豆的正脸照片，被网友戏称为“拿去骗我妈，我妈以为我谈恋爱了”。这些照片皆来自一键天生的AI换脸APP，这些APP有海量的视频和照片模板，能够让不少粉丝实现和爱豆合照的欲望。
不过很多网友表示，这些APP此前基本都免费，现在则须要充钱办会员。在手机中的运用商店搜索，不少关于AI换脸的APP近期的下载量排名都有大幅提升，在评论区，很多网友以为新鲜有趣，但也有网友产生了质疑。
一位博主公开拓布声明，称“被AI换脸软件盗图做模板了”，该博主表示，自己作为模特，和拍照师辛辛劳苦拍摄，但就这样被盗用了，是有点“伤心”。另一位博主也称自己在1月份发布的一组照片，目前在海内社交媒体平台上被不少人用AI换脸软件私自利用，呈现出大批类似素材的视频和照片，乃至有人因干系内容还上了热门榜单，流传到外洋平台。
在短视频平台上，有不少主打AI换脸内容的博主因利用这项技能圈粉不少。最近还有博主惹出了不小的争议。
殊效师洪某在短视频平台上有超过百万粉丝，此前他常常通过电脑后期制作更换影视视频中的镜头，日前他通过AI换脸的办法，将女明星迪丽热巴出演的电视剧中激吻镜头的男主角更换为自己，该视频引发了不少争议，多位粉丝表示了不满，乃至找到他要讨说法。洪某后续在抖音上晒出自己被迪丽热巴粉丝抓伤脸的情形，终极的结果是洪亮把关于迪丽热巴的内容都隐蔽删除。他的账号因违反社区规定，也被封了15天。
该事宜引发了法律界人士关注，同时也让AI换脸的行为更受到关注。在不少人下载APP利用时，这种技能背后带来的伦理寻衅和法律风险越来越凸显。浙江晓德状师事务所主任陈文明则表示，该博主进行AI换脸时，如果得到演员的赞许，尊重了演员个人的干系权利，那么这种行为就变得可行，能够适当运用。但如果没有得到演员的赞许，有可能违反道德和法律的双重规范。
万商天勤状师事务所合资人张烽见告中国新闻周刊，上述博主这种行为可能侵害了干系录像制品或视听作品的版权改编权，侵害女明星的人格权、肖像权、名誉权，传播这种内容如果被认定为不良内容可能违反互联网信息内容管理干系规定和公序良俗。
赛迪智库网络安全研究所所长刘权则指出，这种行为涉及多方面的问题，包括道德伦理和法律法制等。对个人而言，这种行为将会对被害人的生理康健造成危害;对付"大众而言，通过AI技能进行合成创作，可能会模糊真实与虚假之间的界线，危害社会公信力和代价不雅观念。从法律法制角度看，如果未经授权利用他人肖像或作品进行合成或创作，可能会构成陵犯他人肖像权和知识版权，涉及侵权问题，须要承担相应的法律任务。
技能本钱越来越低
今年以来，随着ChatGPT的爆火，天生式AI逐步被人们关注。当一款AI产品可以像“人”一样回答问题，与用户产生互动时，不少业内人士认为“通用型AI”已经到来。
刘权见告中国新闻周刊，过去市场上的AI产品紧张是所谓的“剖析式AI”，这类产品的紧张功能是对数据进行学习和剖析，以此来进行预测、赞助用户进行判断。与这类AI不同，天生式AI的紧张功能是通过学习来天生与演习数据不同的新数据。得益于这种创造能力，天生式AI可以比剖析式AI运用于更多不同的场景、完成更为多样化的任务，因而正在成为一种“通用型AI”。
他进一步指出，天生式AI技能通过换脸、变装等技能，可以创造出非常逼真的视频和图片，能够为互联网生态供应大量的内容产品，并且比较于传统的UGC(用户生产内容)，AIGC(AI生产内容)在内容制作本钱、内容数量、质量的稳定性等方面都更有担保，这些特点决定了天生式AI在电影制作、游戏、虚拟现实等领域中有着广泛的运用潜力。
张烽表示，从内容天生创作角度而言，天生式AI为内容生产创作供应了低本钱、高效的办法，一方面从创作主体上看，让更多普通用户也能很方便地借助AI工具创作出基本符合自己需求的数字内容;另一方面，从创作内容上看，让数字内容的创作更加贴近用户需求和利用场景;此外从结合办法上看，让内容天生创作能够智能化地结合到各种场景中。
一位资深电商从业者近期创造不少利用天生式AI的创尴尬刁难象相继问世，以前对很多中小厂家来说，拍摄非常精美的产品图令人头疼，一方面没有干系人才，另一方面本钱也不低。近期有很多利用AI做电商设计的产品，一样平常会按年收费，能够多快好省进行营销内容的制作。
中心财经大学数字经济领悟创新发展中央主任陈端表示，目前来看，天生式AI最随意马虎带来改变或产生冲击的，便是在内容生产领域。缘故原由在于内容生产链条相对较短，通过打造IP的代价链延展空间比较大，目前来看有商业变现的可行性。
刘权指出，天生式AI在消费端和家当真个多个领域都可能进行颠覆性的变革。在消费端日常办公领域，相对重复、创造性较低的任务都可以由天生式AI来赞助完成;在搜索领域，天生式AI+搜索的模式可以大幅提升人们从海量信息中检索出自己所须要信息的效率，因而可能会成为新一代的搜索办法。
此外，他还指出，在家当端，如在工业设计领域，天生式AI不仅可以根据设计职员的思路迅速提出多套方案，还可以直接对各套方案进行比较评估，供设计职员选择，这样就可以有效节省设计本钱、缩短设计韶光，例现在朝谷歌、英伟达等企业已经在芯片设计中利用AI进行赞助设计;在药物研发领域，引入天生式AI可以赞助研究职员识别化合物的分子构造，并根据须要对分子构造进行重构和修正，可以帮助缩短研发韶光，减少研发投入。
根据美国Western Securities (西部证券)剖析，估量到2025年，AIGC市场空间将达到40.352亿美元，到2030年市场将达到217.558亿美元。这意味着全体市场在未来几年可能迎来爆炸式增长。
“不加限定将会面临严重寻衅”
在不少社交媒体和电商平台上，搜索“AI换头”“AI殊效”，不少人都在用这些技能接单，但并不是堂堂皇皇，一样平常会让用户加微信，然后从朋友圈看视频案例，收费在几十元到上百元不等，商家表示“供应一张照片即可”。
陈文明指出，不论是收费来做这类视频还是进行传授教化，这些营利活动的条件必须是征得干系人士的赞许，否则有可能造成侵权。
而上述商家则表示，“自己娱乐有啥风险，只要不商用，谁会来找你?”陈文明强调，随着技能的发展，所谓的“一键变脸”，如果完备放开不加限定的话，肯定是弊大于利。从法律层面来看，隐私权、知识版权等领域都可能面临严重的寻衅。
刘权的担心之处则在于，天生式AI的滥用也可能造成很大的公共危害，例如不法之徒可以以更低的本钱、更高的效率来假造文本、图片，乃至视频的资料，并以此来从事诱骗、威吓、诋毁等犯罪行为。
张烽进一步指出，随着技能发展，纯从技能角度而言天生制作本钱确实可能会越来越低，但是从干系技能监测检测手段和法律规制、管理制度角度来说，会加大违法本钱。
近两年，随着AI风起，融资超千万美元的AI产品不在少数，不少产品因此深陷色情信息和虚假信息舆论风波。在不少媒体的宣布中，ChatGPT也可以按照用户的指令天生虚假信息。上月尾，马斯克和1000多名人工智能专家签署联名信，呼吁停息演习比GPT—4更强大的人工智能系统至少六个月，情由是这种系统对社会和人类构成潜在风险。
张烽指出，在未来发展方面，目前比较同等的见地是，人工智能自然措辞大模型本身由于涉及海量参数模型开拓、海量数据演习、巨大算力支持，并非一样平常小公司可承担，竞争紧张存在于中美两国互联网巨子。互联网巨子们谨慎小心对待监管，其自身也有比较强烈的社会任务感，有实力也故意愿以合规办法推进研发和运用。至于未来受益公司，凡是拥有大数据、大算力和大量运用用户或运用处景的公司，会享有很多机会。比如目前以图片类版权授权和利用为业务模式的公司会受到一定影响，但是基于其拥有的巨量正版图片数据资源，相应调度业务模式的话，还是会有很多机会。
4月11日，为促进天生式人工智能技能康健发展和规范运用，国家互联网信息办公室起草了《天生式人工智能做事管理办法(搜聚见地稿)》，并向社会公开搜聚见地。陈端解读此举为在一轮新的立法和政策制订过程中，国家秉承原谅开放的态度，通过光鲜的政策导向和指引帮助创新创业人士，明确底线意识，从而更充分开释创新创业的潜力和动能”。
刘权指出第三条给出监管的原则是国家明确支持人工智能算法、框架等根本技能的自主创新、推广运用、国际互助，鼓励优先采取安全可信的软件、工具、打算和数据资源。一键换脸等行为变得更加遍及和随意马虎后，有必要建立干系的规范和监管机制，确保该技能的合法、合规和安全利用，并掩护良好的社会秩序和代价不雅观念。同时，企业和个人也该当自觉遵守干系法律规定和社会道德标准，不进行侵权行为和虚假宣扬，促进AI技能的康健发展。