AI天生的论文插图,引发争议

这篇论文于2024年2月13日在线发布于开放获取期刊《细胞与发育生物学前沿》(Front. Cell Dev. Biol),作者在文中坦承,这些图片由人工智能绘图工具Midjourney天生。

文章的标题为《精原干细胞的细胞功能与JAK/STAT旗子暗记通路的关系》,在引发关注后,期刊编辑部在2月16日就宣告撤稿。
编辑部表示,文章的有关人工智能天生图表性子的担忧被提出,“该文章未达到本刊编辑和科学严谨标准,因此文章已被撤回”。

仅仅是由于文章中采取了AI天生的插图就被撤稿,这显示了国际科学界正在实行严防天生式人工智能稠浊真假科学研究的最严格标准,同时也在进一步明确在AI不断参与人们生活的方方面面时,哪些是科学诚信原则,须要遵照。

立时评|论文运用AI生成插图AI运用的红线在哪里

现在,环球的科学和学术期刊都有相似的规定,不揭橥AI天生和AI署名的学术文章,个中,英国《自然》杂志的阐明具有代表性。

在2023年6月的一篇社论中,《自然》杂志称,为了担保研究的诚信、透明和道德,将不会刊登任何利用天生式人工智能(generative AI)工具创作的图片、视频或插图,除非是与人工智能干系的文章。

缘故原由在于,天生式人工智能工具无法供应其数据来源的信息,使得编辑、出版者和读者无法核实其准确性和真实性。
这违背了科学出版的诚信和透明原则。
其次,天生式人工智能工具可能陵犯了数据所有者的隐私和知识产权,由于它们常日利用了大量未经授权的受版权保护的作品进行演习。
再次,天生式人工智能工具可能加剧了虚假信息的传播。
例如,深度假造(deepfake)便是一种利用天生式人工智能制造假视频的技能,可以用来误导公众年夜众或诋毁他人。

基于这些缘故原由,《自然》杂志武断不承认任何天生式人工智能工具作为论文作者。

显然,《细胞与发育生物学前沿》对西安市红会医院的论文撤稿也是基于上述缘故原由,但根本的缘故原由是,天生式人工智能产生的无论是文章内容和插图,都会让人真假难辨,难以区分论文所研究的内容在现实中是真还是假。
一旦论文造假,对付社会所有人都是灾害,例如医学论文关系着人的康健和生命,一旦论文描述的内容虚假,人们将付出康健和生命的沉痛代价。

进一步不雅观察,西安市红会医院作者的论文被撤稿有更深刻的缘故原由。
一是论文插图违背事实原形,插图中实验大鼠有4个巨大的睾丸,但正常情形下大鼠只有2个睾丸,以及干细胞在培养皿中宛若可以用勺子进食的食品。
二是,这些插图中含有生造的新词标签,如testtomcels、senctolic等。
三是,论文图注中还有词语缺点,如把“干细胞”(stem cells)写错了。

论文中细胞旗子暗记传导图像电路板,个中有的图案像是甜甜圈,引发争议。

这些问题一方面反响了审稿人的粗心大意,但另一方面彷佛也表现出一些研究职员,包括审稿人对AI天生图片的宽容,认为图片只是一种对笔墨内容的形象解释。
由于,《自然》杂志也表态称,并不完备排斥人工智能,杂志许可在文章中利用天生式人工智能赞助产生的文本,只要在方法或致谢部分明确解释。
此外,所有数据的来源,乃至是由人工智能帮忙产生的数据,都必须由作者供应。

这也意味着,论文可以采取人工智能作为赞助手段,但是无论是笔墨和插图都应该解释是AI天生。
其次,AI天生的所有数据,都是作者实际研究产生的。
而且,从这次撤稿来看,采取AI赞助写论文有一个新的标准涌现了,即便AI天生的图片可以用来生动阐明研究内容,也要符合实际情形,而且不能太夸年夜。

随之而来的是,这次论文撤稿也提出了一个问题,学术论文采取AI天生插图的边界在哪里,这彷佛是目前的一个模糊地带。
采取卡通图、手绘图和AI天生图作为论文的插图或封面,在科研中不乏存在,中国神话内容,如女娲补天、盘古开天辟地、后羿弯弓射箭、哪吒闹海、大闹天宫、金刚葫芦娃等都在学术期刊封面涌现过。

这些插图既有卡通绘画身分,也有人工绘图,还有AI天生。
2020年4月,江苏师范大学化学与材料科学学院副院长石枫教授在《中国化学杂志》揭橥的一篇论文是描述设计了一类新型轴手性芳基烯烃-吲哚骨架,论文封面采取女娲利用五色石补天来比喻这一构建过程。
这篇论文封面的女娲娘娘的脸是真人,即通讯作者石枫,这显然是AI天生的图片。

由此可以看到,学术论文未必是全面禁止AI天生图片,但是,详细利用须要有一个标准,但这种标准目前还没有非常明确的边界。
对此,科研打假名人、荷兰微生物学家和科学诚信顾问伊丽莎白·比克(Elisabeth Margaretha Harbers-Bik)对这次西安市红会医院的论文撤稿的评论或许显示了某种详细标准。
她称,论文中“由Midjourney天生的插图俊秀但无意义,在解剖学和科学上都是禁绝确的”,“同时作者附上的文本标签更是让人难以理解”。

石枫论文封面上的“女娲”的脸便是石枫自己的

这种精确既可能是详细意义上的精确,如正常大鼠不会有4个睾丸;也可以是抽象和理念上的精确,以及让人可以理解,如以女娲利用五色石补天来比喻一种新型化学分子构建,这种比喻比较随意马虎让人理解。

不过,未来对付AI天生文本和图片更多地参与科研,哪些可用,哪些不可用,有很多原则和边界还须要磋商。