南都把稳到,近期有网友反响在海内的一些视频网站上已涌现了涉嫌儿童色情的AI绘图内容,声称一些博主演习AI,将女童的脸放在各种有挑逗意味的动作上,让幼童向镜头掀裙子、穿“下衣失落踪装”,并附有图文。
微博上,一篇强烈鞭笞AI绘图天生“二次元女童有身照”的热帖,得到了网友上万点赞。

南都进一步调查创造,一些视频网站正为此类AI天生的未成年软色情图片、视频供应了传播渠道。
在搜索实测中,轻松就能搜索出很多衣着暴露、姿势带有性暗示的AI天生女性图片。
如果关键词再详细一点,也不乏未成年女孩的软色情天生图片。
有发布视频的人更在评论区留下图片链接,以换取不雅观众的点赞和关注;也有的留下QQ号和联系办法用来“接单”,声称如有详细的需求,可以在绘图模型中设置详细描述词天生。

暗访中还创造,在电商平台上,可搜索出大量利用打着“AI绘图”“AI换脸”等旗号天生美女视频的店家。
“傻瓜式操作,小白轻松上手,海量关键词描述免费利用”,一店家打着上述广告语,表示只须要输入一系列关键词就可智能天生自己想要的图片。

考试测验购买后,客服会发送来云链接和提取码,其售卖内容包含SD模型包、绘画速成、变现办法及安装解释。
在对方发来的图片素材和描述词汇中,不少涉及低俗色情内容,且轻松便能天生未成年少女的软色情图。
此外,评论处还晒出了不少由AI天生的学生图片,这些少女看上去面庞稚子,姿势带有着未成年软色情的擦边之嫌。

记者暗访AI脱衣技能正盯上学生群体

多个商家在页面上流传宣传,支持脸庞转换一步到位。

“AI脱衣”技能盯上学生群体

今年3月,一则“女子地铁照被AI一键脱衣”的冲上微博热搜。
照片上的女子是一名博主,在社交平台发布了一组在地铁上拍摄的穿搭照片,却被人用AI软件“一键脱衣”,故意在网上分布。
对此,该博主表示会采纳相应的维权方法,并希望能够引起人们对付隐私权和个人形象保护的关注。

实在,“AI脱衣”的危害乃至祸及未成年人。
通过商家理解到,部分AI绘图软件同样支持一键脱衣。
一名卖家声称自己“资源浩瀚”,不仅售卖绘图软件,还有海量图片素材,在网页详细地将图集分为“二次元”“国风”“动漫”“机甲”等多个种类,在对方先容的图片素材中,涌现了“女孩”“少女”等多个字眼。
还有商家表示专门售卖“AI绘画校服写真”的图片素材,形象为穿着校服的女学生,却衣着暴露、表情挑逗。

有商家售卖“AI绘画校服写真”的图片素材,形象为穿着校服的女学生。

这些供应“AI脱衣”干系技能或做事的商家,有的会通过隐蔽的地址躲避监管,输入验证码后方可查看;还有的须要先关注某"大众号,再发送暗号两字获取验证码;或者是通过客服咨询,在对话中对方供应网页链接,通过链接下载最新版的APP。
实测创造,对付这些软件下载,未成年人无需进行身份识别,输入关键词找到渠道便可轻易操作。

天生换脸说话视频仅需几十元

除了天生低俗色情图片视频外,这些新技能也随意马虎在其他渠道上带来风险和隐患。

随着“AI换脸”越来越广泛的传播,许多网友提出警示,人贩子有通过盗取家长的脸庞、声音信息,在未成年人单独行动时,用视频电话AI换脸伪装家长,勾引未成年人分开人群,履行诱拐的可能。
在短视频平台进行检索,会弹出大量干系的短视频广告,下附AI换脸软件的链接。
在一款叫“AI随拍”软件的链接后,各式各样的明星、素人短视频浮现在主页上。
只需不雅观看25秒的广告,就可以用这款APP免费制作一个十多秒的视频。
常日,这些短视频下方都附有下载链接,广告流量可不雅观,很多视频评论过千,转发量过万。

除此之外,在电商平台上搜索创造多个商家页面,支持脸庞转换一步到位,月销量数百乃至上千。
有客服向表示,其售卖的是一款软件,无论是图片或是视频都支持一键换脸,售卖价格仅几十元。

专家:压实平台主体任务探索消费者集体诉讼制度

对此,中国互联网协会法工委副秘书长胡钢认为,人工智能,特殊因此ChatGPT为代表的天生式人工智能,已经引发新一轮颠覆性技能革命,并给全人类带来巨大机遇和强劲寻衅。
而近年来,我国先后发布的《天生式人工智能做事管理暂行办法》《互联网信息做事算法推举管理规定》《互联网信息做事深度合成管理规定》等,便是对人工智能法律体系的细化完善。

中国社会科学院大学互联网法治研究中央实行主任刘晓春则认为,传统对付软色情等不良信息管理更多基于传播真个掌握,比如禁止传播或者限定传播,有专门的内容生产者,用户只须要获取再进一步的传播。
“而现在的难题正好在于AI技能能使内容生产变得非常大略,不须要专业的人士和机构,每个人都能成为天生者,那么以前对付传播环节的掌握就有点失落灵了。

刘晓春表示,现在要做的,除了沿用传统对不良信息传播端口的掌握,还要转变为对技能工具本身、包括对技能工具开拓过程的干预和掌握。
“比如在一些高风险场景下,哀求这些AI工具供应标识,在天生的图片视频中标明合成及非真实的,或在AI工具中插入隐性标识,能够追溯特定的工具和利用用户。
”而管理的重点,要针对一些关键环节去参与,比如能获取这些不良信息的电商平台、APP运用市场、包括直播间等,对其进行严格的掌握及作出相应的惩罚,压实平台任务主体。

而这次中心网信办专项行动聚焦的七大重点之一,即剑指新技能新运用风险问题,包括利用“AI换脸”“AI绘图”“AI一键脱衣”等技能天生涉未成年人低俗色情图片视频等。
“解释问题已经凸显出来,引起了有关部门的重视,并把它作为重点打击的工具。
”刘晓春说,希望有关部门能有一些更创新的管理举措,并针对性地采纳举措,“相信总体还是可控的。

关于海内子工智能管理与维权,胡钢表示,要深化消保组织和审查机关消费公益诉讼机制,探索建立消费者集体诉讼制度,进一步完善行政监管、民事公益诉讼、民事私益诉讼、综合调处衔接折衷机制,构建及时、高效、一体化、网络化的消费轇轕办理机制。

出品:南都帮

采写:南都 张思琦 演习生 姚楚翘