在实际比拟了十余个同类型“明星”直播间后创造，常日情形下，只要直播间里的“明星”不做过于大幅度的动作，真的很难分辨出真伪。
“生动在巴黎时尚秀场上的明星居然也开始带货了”“杨幂、刘亦菲竟然卖起了减肥茶”，消费者在直播间里看得一头雾水，但却因“眼见为实”屡屡猖獗下单，被骗了还浑然不知。
更有甚者，打出“轻松创业、包教包会”的旗号当起了职业培训师。“培训用度”从16.8元到高至上万元，涵盖工具，承诺包教包会，消费者缴费后才知道所谓的包教包会，是“只售出无售后”。从“AI换脸”到“Sora”,当消费者们还沉浸在科技对天下的重塑力上时，有这样一些商家早已经构建起了一条低本钱牟暴利的灰色家当链。
“主播”变“明星”
带货骗你没商量
晚上9点，点进电商直播间，“杨幂”和“刘亦菲”竟然卖起了减肥茶，不久后“迪丽热巴”也加入到直播带货中。在短短4个小时的韶光里，依赖着“明星同款”“顶流力荐”的标签，直播间内的商品销量已达上千件。
“追直播追了好几天，结果追了个‘李鬼’，切实其实欺骗了我的感情和信赖。”消费者李响愤愤不平道。
消费者在不雅观看直播购物时，会由于对某个明星的喜好和信赖而购买产品。部分商家正是捉住了消费者的这齐心专生理，开始借助AI换脸技能勾引消费者消费购物。
在实际比拟了十余个同类型“明星”直播间后创造，常日情形下，只要直播间里的“明星”不做过于大幅度的动作，真的很难分辨出真伪。
但只要直播韶光一长，仔细不雅观察就不难创造，该直播间内的“女明星”如果动作稍大，就会暴露“面具”之下的本来样貌，或者涌现“面具”出画的征象。
当眼见也不一定为实，针对疑似“AI换脸”的画面，消费者如何戒备?家当不雅观察家陈一凡指出，大面积遮挡脸部，或在脸部前方挥手，将导致人脸检测失落效，消费者可以由此判断是否运用了干系技能。
“骗术”当“技能”输出
玩多元变现
光直播带货还不过瘾。如今部分商家还做起了更“高等”的买卖，将已经烂熟于心的“骗术”，当作“技能”输出。
顺着某科普博主的账号，进入一个独立站点，而该博主科普AI技能的身份背后，掩蔽着一条完全的“AI换脸”套餐发卖链。
除了售价29.9元的“AI换脸”教程，该博主还供应人脸模型定制。整体定制服务在2000元至上万元不等，详细价格视质量哀求和运用处景而定，能够在全流程帮助科技“小白”完成“AI换脸”的一系列操作，实现视频通话、直播等多个场景下“换脸”。
而做事于“技能流”的套餐则更加大略直接。通过电商平台直接检索“AI换脸模型”，无法显示出干系结果，但用于演习人脸模型的src(源视频)素材包却可在平台公开兜售。
素材包售价低至16.8元，最贵的仅29.8元。购买了个中一款素材包，个中约含图片4000张，大部分是对应演员的影视剧截图和个人照片。而在明星之外，该商家还供应“大众脸女带货主播”“中年男路人”等素材包。
以消费者身份暗访了某素材包发卖商家，该商家向先容，“如果是纯新手，不推举购买，须要有一定搭建此类模型的根本。”而在的几次再三追问下，该商家表示，也有可以直策应用的人脸模型，但须要分开平台私下购买，女性面孔居多售价更高，男性面孔较少。
想售后?
不支持任何情由退款和换货
这笔存在于“技能流”层面的交易也并不省心。
通过“AI换脸”从事虚拟主播的柒柒谈道，“模型用得久了，逐步涌现了一些运行不稳定、脸部有锯齿、表情无法识别的问题，当时砸进去近万元做的模型，但商家已经联系不上了，如果其余找人修正模型，险些要重新开始，又是一大笔用度”。
在暗访中，把稳到，险些所有的“换脸”明星素材包商家商品详情，都在商品先容中写明：“本店为虚拟产品，下单后自动发货，不支持任何情由退款和换货。”
聚焦在人脸模型定制服务上的问题同样是售后。以咨询换脸明星进行直播带货为由与供应人脸模型定制的商家刘师长西席取得联系，对方称须要预先支付99元作为定金，随后可以进行一个初步的“换脸考试测验”，看看效果再判断是否要进行进一步的需求对接。
当涉及如果终极的成品无法达到满意的效果如何进行售后做事时，刘师长西席三缄其口，始终回避交货后的掩护问题。
消费者赵月见告，当初为了“AI换脸”充了月卡，结果天生视频居然须要花168元成为终生会员，到现在平台却没有预兆地溘然下架了“AI换脸”功能。
此类情形并非个例，在黑猫投诉中以“AI换脸”为关键词检索，涌现了近百条投诉，个中包括“换脸”效果不合心意但平台不受理退款等。
严重危害消费者权柄
平台需强监管
对付“AI换脸”所触碰到的版权及危害消费者权柄等问题，商家们也纷纭预先表态“不背锅”，在多位供应人脸模型定制服务的业务先容中，均提到“不接任何违反道德或者法律的干系业务，业务范围仅限于个人娱乐、合法直播领域”。
根据《民法典》干系规定，公民享有肖像权，这意味着他人不得随意利用肖像，同样地，利用明星的脸部图像也可能涉及到陵犯明星的肖像权。
北京市中闻状师事务所状师赵虎指出，如果利用“AI换脸”技能来制造虚假的代言人形象，误导消费者购买商品或做事，那么这种行为就可能构成虚假宣扬。同时，人脸作为识别个人身份的主要信息，如果被不当利用，也可能涉及到名誉权的问题，应由商家承担相应的法律任务。此外，发生数据透露的情形，须要查明缘故原由并确定任务，当由于AI工具本身存在毛病导致的数据透露，那么AI工具的供应者应该承担相应的法律任务。
那么买了假明星带货的产品，消费者要不要负连带任务?
对付消费者而言，赵虎进一步指出，消费者在购买商品时仍需保持理性，把稳辨别直播间内容的真伪。当消费者基于对直播内容的信赖和兴趣进行购买，他们常日是受害者，而非任务方。如果消费者由于商家的虚假宣扬或侵权行为而遭受丢失，有权向商家维权，可及时向平台或干系部门举报，掩护自身权柄和市场秩序。
事实上，干系规定早已为“AI换脸”划定了“底线”和“红线”。2023年起施行的《互联网信息做事深度合成管理规定》明确，任何组织和个人不得利用深度合成做事制作、复制、发布、传播法律、行政法规禁止的信息，深度合成做事供应者应该以显著办法提示深度合成做事技能支持者和利用者承担信息安全责任。
今年全国两会，全国政协委员靳东再谈“假靳东”，再度回应了犯罪分子冒名其身份，通过运营“高仿”社交账号，再以投资、恋爱等各种情由索要钱款这一事宜，他对媒体表示，希望从法律层面加大对网络平台的监管，让网络空间更加豁亮清明。
干系业内人士也向表示，现阶段，只管不少平台已经明确哀求商家在利用“AI换脸”技能时注明身份，以确保AI合成视频的发布者身份清晰可辨，但在利益驱动下，仍存在试图通过模糊身份来规避任务或误导消费者的商家。此外，平台监管的不到位和惩罚力度不足，也可能使得一些商家对规定熟视无睹。
陈一凡指出，新质生产力确实以其颠覆性和原创性的特点，为传统生产格局注入了新的活力，为经济社会发展供应了新的动能，催生出浩瀚新家当，成为推动社会进步的主要力量。新科技的运用每每带来市场的变革，但如果被缺点利用，可能导致市场旗子暗记失落真，资源配置不合理。(来源:北京商报)