重庆爆炸？西安爆炸？据本日《重庆晨报》的，南昌、重庆、郑州等多地公安部门接连查处网民用AI编造“爆炸新闻”的案件，不法分子利用AI合成技能编造谣言，严重扰乱了社会秩序。在谣言散布前，有没有办法快速识别出这些AI制造的假新闻？
西湖大学“文本智能实验室”本日在接管都邑快报采访时先容，近日实验室公布了一项最新研究成果，通过他们研发的开源大模型，大众可以一键识别出哪些文章出自AI之手。该研究项目的卖力人鲍光胜说，针对GPT3.5天生的文章，识别率可以达到96%，对GPT4天生的文章的识别率达到90%。
据鲍光胜先容，出于对AI安全性和可信赖的方面的担忧，这类研究在欧美国家已经有很多，但在海内还不多。文本智能实验室的研究从去年初到现在已经持续了一年多韶光，这次公布的研究成果已经发布在2024年国际表征学习大会（ICLR 2024）。
差异大型模型天生的文本与人写的文本之间的关键点是什么？“文本智能实验室”通过对新闻、小说、论坛问答和技能问答等进行研究后认为，两者的差异性表示在词汇利用、句子构造、语法繁芜度、语义连贯性等等方面。他们提取覆盖这些特色的统计量，剖析它们在两种不同文本上的分布并设定阈值。当某个文本的特色值超过阈值，模型就会将其判断为AI天生的。
用AI识别AI，不仅可以识别出AI天生的假新闻，对学术论文的甄别也是一个很大的运用处景。去年以来，国内外浩瀚高校和学术期刊宣告，对在论文写作过程中的各种AI利用加以限定。一旦创造论文紧张内容是利用AI工具天生的，将以学术不端行为处理。而有学生在写毕业论文时也创造，他们利用AI大模型检索得到的文献资料，虽然标注了出处，但之后核实却创造这些内容并不存在。
Chat GPT出身以来，人工智能加速发展。AI天生文本、视频、音频不仅快速，也越来越像人做的。在上述公安部门查处的案件中，不法分子通过AI软件，只需说出“爆炸”等关键词，软件便会自动在网络上抓取干系信息，天生文本，并配上貌似和事宜具有干系性的虚假图片，形成看起来信息量很大，实际上子虚乌有的内容。而一键识别AI身份工具的涌现，或能很大程度上抑制假新闻、假论文的泛滥。
在这场“矛与盾的竞速”中，“矛”正越来越利，“盾”不会亦不能失落位。
任务编辑：顾国飞审核：陈欣文 顾国飞