“太不像话了！
学生用人工智能天生的期末论文乱来我。”近日，上海某高校西席在社交媒体上“吐槽”自己碰着的新难题——一些想偷
以ChatGPT为代表的天生式人工智能技能（AIGC）横空出世，彷佛为人们写论文供应了新帮手。从供应选题到文稿润色、从统计剖析到图表制作……其功能之强大，险些覆盖了学术论文写作过程的方方面面。
面对ChatGPT等工具的潜在风险，争议随之而来。不少人质疑，人工智能到底能不能用于赞助学术论文写作。有人认为，它只是提高科研效率的工具。有人则对此持谨严态度，认为随意马虎引发大规模的学术诚信问题。
人工智能技能在论文写作中的运用程度如何？技能运用的边界在哪里？如何对这一技能进行有效管理？科技日报对此进行了深入采访。
1
AI天生的文本“非常水”
有多少人考试测验过用人工智能技能写论文？去年《自然》杂志对环球博士后的一项调查创造，约有三分之一的受访者利用人工智能谈天机器人来优化文本、天生或编辑代码、整理文献。
当考试测验在社交媒体上搜索“AI”“论文”“写作”等关键词，五花八门的AI论文写作辅导教程映入眼帘。个中大部分流传宣传能够教会用户在几分钟内通过几个大略的步骤，天生一篇几万字的“优质”论文。这些教程的浏览量最高已达数百万。
AI真的能天生一篇完全的“优质”论文吗？按照教程开始了考试测验：“请提出与民族志记录片有关的论文选题。”险些无需等待，几个看起来很“靠谱”的选题就涌如今对话框里。
某大措辞模型天生的民族志记录片论文选题。网页截图
“请就某一选题天生写作大纲。”几秒后，7个像模像样的章节全部天生完毕。“请就提要中某项内容，详细描述2000字。”重复几次操作后，一篇几万字的“论文”很快就完成了。但浏览后创造，其天生的段落中，存在大部分重复且言之无物的内容。
除了说“车轱辘”话，某985高校人工智能专业硕士研究生温睿还创造了此类论文的行文特点：“一样平常是先写一句话，然后进行分条论述。当老师看到这样套路化的内容就会预测，这类文章很大程度上是人工智能写的。”
文章开头那位西席的经历印证了温睿的创造。“这样的论文看似条理清晰、层次丰富，但实际上每个层面的内容都很少，而且非常空洞。我立时就疑惑是AI天生的。”该老师说。
不少期刊编辑、审稿人也创造了同样的问题。
某人文社科期刊审稿人徐彬向透露，用AI写论文的关键在于提示词。如果提示词选用的不恰当，就极有可能得到一篇套路化的文章。他目前已经收到过五六篇“一眼就能看出来”用AI写的稿子。
“这些文章的共同特点就是非常水。虽然它天生的措辞连贯性不错，但是缺少深度，创新性也不强。”对此，徐彬略显无奈，“综述类文章是利用AI的重灾区，但目前期刊还缺少干系的评价标准和处理机制。”
2
假造数据集更具暗藏性
在清华大学人工智能国际管理研究院副院长梁正看来，论文核心评价标准包括作者发挥的创造性、对论文的贡献程度。一篇大部分由AI天生且遮盖利用情形的文章，既没有作者智力的贡献，也不符合科研诚信的哀求，属于学术造假。
AIGC造成的学术造假还发生在数据领域。在采访过程中，多位业内专家提到了假造数据集问题。比较直接的文本天生，这一办法更具有暗藏性。
GPT-4的ADA功能是一种结合了打算机编程措辞Python的模型，可以实行统计剖析和创建数据可视化。梁正向讲述了一则真实的案例：国外某机构研究职员先是哀求GPT-4 ADA创建一个关于圆锥角膜患者的数据集，后又哀求它编造临床数据，用以支持深板层角膜移植术比穿透性角膜移植术效果更好的结论。但真实的临床数据证明，两种手术效果并无明显差别。
“针对某个问题，提出方法来办理，并通过实验来证明方法的可行性——这是专业论文的常用模式。人工智能不能做实验，哪怕它给的实验数据再空想，也都是虚假的。”温睿认为，虚假的数据背离了科学研究的真正意义。
除了数据处理，更多人利用AIGC来阐明观点。温睿创造AIGC天生的观点简洁明了，查重率也非常低。但当讯问这些观点是否精确时，温睿显得有些迟疑：“我也没有把握，常日默认它是对的。”
为了验证AIGC给出答案的准确性，就一些新兴观点提问，但它给出的答案每每和真正观点绝不沾边。当让AI天生5篇某领域的重点参考文献，它又胡编乱造了5个不存在的作者和不存在的文献。
以上作者和论文并不存在。网页截图
在人工智能领域，描述AI“不苟言笑地胡说八道”的专业名词是“AI幻觉”。哈尔滨工业大学（深圳）特聘校长助理、教授张民阐明，AI幻觉是指AI会天生貌似合理连贯，但与输入问题意图不一致、与现实或已知数据不符合或无法验证的内容。这多是由于AI对知识的影象不敷、理解能力不足、演习办法固有的弊端及模型本身技能的局限性所导致。
“如果不当心AI幻觉，很有可能危害科学研究的真实性和客不雅观性。”梁正表示，AI天生的缺点信息一旦被广泛传播，不仅会造成“学术垃圾”泛滥，还将影响学术生态的良性发展。
3
一场你追我逃的“猫鼠游戏”
一项新技能的涌现，对付社会的发展每每是把双刃剑。虽然人工智能技能存在各类隐患，但其在图文创作、数据处理等方面的强大能力已被大多数人认可。“归根结底，我们认为AI将增加人类的聪慧，而非取代人类。其利用应在人类监督之下，并将道德成分考虑在内。”施普林格·自然集团发言人说。
推动AI向善发展，须要借助行之有效的技能手段。值得把稳的是，AI天生的论文并不能被查重工具检测出来。因此，国内外都在探索研发专门针对AIGC的检测工具。
从事理看，AIGC检测技能是在“用AI打败AI”。同方知网数字出版技能株式会社副总经理柯春晓先容：“人类的创作每每是随机且富有灵感的，而接管过大量文本演习的AI已经形成了生产文本的‘固有’范式，方向于利用‘同等’的构造和规则，因此具有更高的可预测性。”AIGC检测的核心便是依托海量的文本和数据样本，识别出人类和AIGC工具在均匀句子长度、词汇多样性和文本长度等方面的不同点，从而揪出AI论文“枪手”。
一些期刊出版机构通过检测工具创造了AIGC代写论文的痕迹。“从去年7月尾到现在，我们创造涉嫌AI写作的论文数据每个月都在上升，大约有六七十篇的文章疑似利用AI的程度超过了50%。”《中华医学杂志》社有限任务公司新媒体部主任沈锡宾先容。
沈锡宾向展示了检测过程：一篇论文经由检测系统后，会显示疑似AI天生占全文比重，干系疑似段落也会被标红。但把稳到，和传统的查重报告单明确标看重复痕迹不同，AIGC检测报告单只是指出某些文本AIGC的“置信度”，并不能回答为什么是这个值。
“这使得报告单每每只起到参考和警示浸染。”柯春晓说。
目前，人工智能大模型正在以“周”为单位进行迭代升级。如何适应不断升级的技能，是摆在AIGC检测工具面前的一道必答题。
作为利用者的人类本身也在不断“进化”。“类似人们躲避查重的办法，如果人们理解到AI检测的办法，也可以重新组织干系内容，对AI天生的文本进行人工润色。这样很可能就检测不出来了。”沈锡宾说。
作弊与反作弊的过程，本色上是场“猫鼠游戏”。只要技能不断升级，两者间的博弈就不会停滞。目前，AIGC检测技能仍处在抽芽期。如何对AI天生的虚假图片、虚假数据进行识别仍是难点。因此，人们引入智能检测技能的同时，也要建立人工审查机制。
“审稿人要当好‘守门人’，发挥同行评议的浸染，仔细甄别判断论文的数据是否和认知存在偏差。出版机构也可以哀求作者供应原始数据，多管齐下，确保科研诚信。”沈锡宾说。
4
技能向善要他律更要自律
加强技能管理的同时，各方都在翘首以盼，期待达成某些共识以及干系政策尽快出台。“教诲、科研、出版各方都很关注AIGC利用的边界，期待对合理利用AIGC形成一个共识性规范。”知网技能专家呼吁。
实在，早在去年初，中国科学技能信息研究所（以下简称中信所）就牵头爱思唯尔、施普林格·自然、约翰威立等国际有名出版集团和科研信息剖析机构，在广泛调研并梳理业内干系研究和探索事情的根本上，完成了中英文版的《学术出版中AIGC利用边界指南》（以下简称《指南》），并于去年9月20日在国内外同步发布。
去年12月21日，科技部发布的《负任务研究行为规范指引（2023）》（以下简称《指引》）更是受到了业内的广泛关注。
《指引》和《指南》就如何负任务地利用AIGC，解答了令科研事情者、期刊编辑、审稿人困惑的一些问题。
首先是表露问题。《指引》提出，利用天生式人工智能天生的内容应明确标注并解释其天生过程，确保真实准确和尊重他人知识产权。《指南》中更是供应了声明的模板，供科研职员参考。
对付一些人想用AIGC投契取巧的行为，《指引》明确提出，不得利用AIGC直接天生报告材料；《指南》规定，AIGC不应该用来产生研究假设、直接撰写整篇论文文本、阐明数据、得出研究结论。研究职员利用的数据必须是研究职员进行实验并网络所得，如利用AIGC供应的统计剖析结果需进行验证。
随着AIGC的利用边界不断清晰，越来越多的出版机构达成共识，制订了利用规范。施普林格·自然集团发言人先容说，他们目前已经明确了有关作者身份和图像方面的规定。例如，人工智能不能担当作者，真正作者如利用大措辞模型须加以透明描述，AI天生的图像常日不能用于揭橥等。
“《科学》杂志在去年1月份发布的政策是禁止利用任何AIGC工具。而11月16日他们更新了投稿规则、放宽了限定，表示只要进行了适当表露，利用工具是可以接管的。”中信所博士郑雯雯说道。
“《指引》覆盖较为全面，对AIGC的利用总体呈现出平衡原谅、敏捷管理的态度，而非一味禁止。这也解释管理的目的并不是阻挡科研事情者利用新一代人工智能技能，而是让科研事情者能够负任务地去利用。”梁正提到，在政策制订的行为框架之下，还要关注学科差异问题。“利用AIGC可能因学科的不同而有所差异，其伦理问题也要根据学科特点细化。”
例如，在自然科学领域，AIGC的强大功能更多表示在数据处理领域，如果失落范利用，每每难以创造。而对付人文社科领域，直策应用AIGC天生内容的痕迹非常随意马虎被创造，尤其是在高水平的研究当中，利害之分更为明显。
“因此，对付更加看重笔墨表达、数据资料支持的学科，比如企业管理、理工科、医学等，须要戒备产生虚假的数据集或论证材料。”梁正说，“对AIGC利用的表露程度、疑似度的数据指标等，都须要学术共同体进一步探索，来推动形成广泛共识。”
此外，只管国家出台了相应的规则，但从外部监督到行业自治还须要一个过程。AIGC的利用涉及包含研究职员、出版机构、干系行业组织、政府等方方面面。如何厘清各方关系，各司其职是关键。“大略说，便是出了问题，谁来查？有没有能力查？”郑雯雯强调。
理解到，中华医学会杂志社在今年1月9日公布了其对付AIGC技能利用的有关规定。个中不仅涉及了作者要遵守的细则，还提出了查处办法——经编辑部研判的违反AIGC利用的环境，将直接退稿或撤稿；情节严重者，将列入作者学术失落信名单。
“我们下一步的目标是把存在问题的文章作一个归纳总结，进一步摸清AIGC利用的规律，为科学管理积累履历。”沈锡宾说。
“只管新兴技能有着潜在风险，但也有着无可比拟的上风，不宜一味封堵，而是要做好勾引、合理合规地利用新技能。”郑雯雯表示，归根到底，科学研究的主体是人。如果心中的那杆“秤”倾斜了，纵然再完善的监管政策、再高真个检测技能，也难以抵挡学术不真个侵袭。
梁正也强调，作为科研诚信的第一任务人，科研职员一定要保持严谨的学术态度，关注研究领域的真问题，坚守学术研究的基本原则，如原创性和透明性；明确认识到ChatGPT等工具的潜在风险，避免利用不当而造成学术不端。
“科研诚信和伦理是科研的生命线，科研职员一定要存敬畏、有底线。一旦在这方面有瑕疵，职业生涯或将葬送。”梁正提醒。
（文中温睿、徐彬均为化名）