然而，这项新技能在改变生活的同时，也正在滋长新型犯罪：一些人为博眼球赚取流量，利用AI编造或修改情节炮制虚假信息，造成不良社会影响；更有甚者，利用AI技能天生虚假图片、音视频或者笔墨信息制造谣言，颠覆了“有图有原形”的常规认知，让网络谣言更加难辨真伪……
资料图
近日，四川德阳罗江警方就查处一起利用AI文章天生软件编造、传播网络谣言范例案件，一名成都女子利用AI小程序编造德阳某学校的“校园霸凌”虚假信息被警方行政惩罚。1月15日，办案民警向红星新闻讲述了详细案情。
红星新闻还梳理发现，海内多地也涌现利用AI编造、传播网络谣言案件，并被警方查处。这种新型违法犯罪，值得"大众年夜众当心。
AI编辑：
女子编造传播“校园霸凌”虚假信息被惩罚
去年12月20日，一篇题为《12岁女生被8人轮流扇耳光3小时，致耳膜穿孔》的文章发布在某平台，引发大量网民关注，也引起德阳罗江警方关注。随后，有网友举报该文为虚假信息，几小时后文章被平台下架。两天后，罗江警方找到了始作俑者刘某群，她才知道自己已触犯法律。
经警方调查，刘某群将2023年12月实际发生在外省某地已被处理的“校园霸凌事宜”截取干系事宜图片后，利用AI小程序自动编辑功能，嫁接为发生在德阳某学校的“校园霸凌”虚假信息，制作了上述文章在某平台发布，引发大量网民关注，对社会秩序、校园管理造成严重的负面影响。
刘某群被罗江警方行政惩罚
“为博取流量，得到平台浏览褒奖，她被警方挡获时获利就几十元钱。”一名卖力该案的民警先容，刘某群（四川成都人），20多岁，待业在家，在一些平台注册了账号，平日靠写点文章博取流量，得到平台浏览褒奖，“文章基本上是用AI写的。”
面对警方，刘某群主动交代了自己的造谣行为，称自己法律意识淡薄，非常后悔。警方对其进行了批评教诲，并依据《治安管理惩罚法》对她进行行政惩罚，并对其造谣账号采纳关停方法。
AI换脸：
男子收到“裸照”被打单40万，一眼看破骗局
凌晨溘然收到一条陌生人的彩信，内容竟是自己躺在床上搂着一名女性的照片，对方借此让他支付40万元。但他一眼就认出这是骗子利用AI换脸进行诱骗……这是四川广安邻水县李师长西席（化名）的真实遭遇。
据警方先容，1月9日凌晨4时39分，李师长西席收到上述陌生彩信，照片显示他正躺在床上并搂着一名女性。紧接着，他又收到一条短信：想安然，上午9点前回答，过期不候。李师长西席认出这是AI换脸诱骗手腕，直接回答了七个字：你早晚会被抓的。
李师长西席（化名）收到的诱骗信息
当天早上，为一探究竟，套出对方用AI换脸诱骗自己的真实意图，他主动与对方联系，问其有什么哀求。果不其然，对方自称“私家侦查”，接管他人委托办理轇轕，以节制李师长西席私密之事为由，一次性索要40万元，而且只给他20分钟考虑。
眼看20分钟快到了，李师长西席依旧没有回话，对方通过AI变声打通了他的电话，声称要与李师长西席谈条件达成协议，否则将“鱼去世网破”。终极，对方在李师长西席追问下，意识到自己的诱骗行为已被看破，便匆匆挂断了电话。
警方提醒，“AI换脸”是新型诱骗的常用伎俩，也是网上敲诈打单常用的手腕，如果收到这样的信息，请不症结怕、不要相信、不要回答。公安机关将严厉打击恶意P图履行敲诈打单的违法犯罪行为。
不止一起：
利用AI炮制传播网络谣言，警方予以查处
红星新闻梳理发现，近期，海内多地警方查处一批故意制造、传播网络谣言案件并公开公布，个中不乏利用AI工具炮制网络谣言案例，涉事人紧张目的是吸粉引流，然后赚取平台的流量补贴。
湖南衡阳公安机关侦破一起利用AI智能工具炮制恶性网络谣言案。2023年8月，阳某为吸粉引流博取关注，在网络平台利用AI智能工具炮制并发布“耒阳某化工厂爆炸致多人失落联”“耒阳某珠宝店发生持刀抢劫案”“耒阳某公园发生多起杀人抛尸案”“耒阳女网红被绑架”等多条恶性谣言信息，引发网民大量关注转发，造成群众极大惶恐，社会影响极其恶劣。经衡阳公安机关依法调查，阳某对犯罪事实招供不讳。目前，衡阳公安机关依法对其刑事拘留，并对其造谣网络账号采纳关停方法；
此外，2023年11月26日，为博取引流，陈某通过AI软件合成一段关于无锡市某失火事宜的视频，并发布于社交平台。经调查，陈某对违法行为招供不讳，无锡市惠山区公安机关依法对其予以行政惩罚。
AI，本是帮助人类进步，更好地事情和生活的工具，却被部分不法分子利用进行诱骗、编造传播谣言，值得公众年夜众当心。
红星新闻王明平 王超
编辑 张寻 责编 邓旆光
（下载红星新闻，报料有奖！
）