人工智能生成的老鼠阴茎被刊登在同行评审期刊上

一家著名科学杂志正式撤回了一篇文章，该文章展示了一张人工智能生成的大鼠图片，图片上有一只生殖器硕大、附有一系列无意义的胡言乱语。这一令人尴尬的撤稿凸显了在科学文献中使用日益流行的人工智能工具的风险。尽管一些主要杂志已经对这种做法进行了管控，但研究人员担心，不加节制地使用人工智能工具可能会导致不准确的研究结果，并可能损害机构和研究人员的声誉。

人工智能生成的老鼠如何通过同行评审？

本周早些时候，《细胞与发育生物学前沿》杂志发表了一篇论文，其中刊登了人工智能生成的图像。这三位研究人员分别来自西安红会医院和西安交通大学，他们当时正在研究与小型哺乳动物精子干细胞相关的最新研究。在论文中，研究人员还附上了一幅卡通老鼠的插图，其中的阴茎高耸在老鼠的身体上。老鼠旁边的标签上写着“testtomcels”、“Dissisilcied”和“dck”等语无伦次的文字。研究人员公开承认，他们使用了 Midjoruney 的人工智能图像生成器来生成该图像，并在配文中附上了文字说明。

继人工智能生成的老鼠之后，又出现了三个据称描绘复杂信号通路的人物。虽然这些人物最初看起来没有动画老鼠那么视觉冲击力，但它们周围同样被人工智能生成的无意义的胡言乱语所包围。这些奇怪的人物迅速在社交媒体上引起了学者们的关注，一些人质疑这些明显不准确的人物是如何通过Frontiers 的审查程序的。

尽管许多研究人员警告不要在学术文献中使用人工智能生成的材料，但Frontiers 的政策并不禁止作者使用人工智能工具，只要他们包含适当的披露。在本例中，作者明确表示他们使用 Midjourney 的人工智能图像生成器来制作图表。不过，该期刊的作者指南指出，使用这些工具生成的图表必须经过准确性检查，而在本例中显然没有这样做。

该期刊随后发布了一份全面撤回声明，称该文章“不符合Frontiers 的编辑和科学严谨标准”。Frontiers 在随附的博客文章中表示，已从数据库中删除了这篇文章以及其中的人工智能生成的图表，“以保护科学记录的完整性”。

该期刊声称，该论文的作者未能回应审稿人要求他们修改图表的请求。现在， Frontiers表示正在调查这一切是如何发生的。据报道，一位美国审稿人告诉 Motherboard，他们只是根据其科学价值来审查这篇文章。他们声称，是否纳入人工智能生成的图表最终由Frontiers决定。

《Frontiers》写道：“我们对这一错误向科学界诚挚道歉，并感谢读者迅速向我们通报这一情况。”

Frontiers尚未立即回应PopSci 的评论请求。

科学诚信专家伊丽莎白·比克 (Elisabeth Bik) 花费了大量时间在学术期刊上发现被操纵的图片，她将这幅图描述为生成式人工智能图像如何漏网的“悲哀例子”。尽管阴茎形图像特别容易被发现，但比克警告说，它的发表可能预示着未来会出现更多有害的条目。

“这些数字显然不符合科学原理，但如果这些拙劣的插图能如此轻易地通过同行评审，那么看起来更逼真的人工智能生成的数字很可能已经渗入科学文献，”比克在她的博客《科学诚信文摘》上写道。“生成式人工智能将严重损害科学论文的质量、可信度和价值。”

学术期刊是否应该允许人工智能生成材料？

每年网上发表的学术文章超过 500 万篇，几乎无法估计研究人员使用人工智能生成的图像的频率。PopSci 至少发现了另一个明显的例子，即一张似乎是人工智能生成的图像，描绘了两头非洲象在打架，这张照片出现在最近发表的《自然代谢》论文的新闻资料包中。这张人工智能生成的图像并未包含在发表的论文中。

但即使目前人工智能生成的图像还没有充斥在文章中，时间紧迫的研究人员仍然有动力转向越来越令人信服的工具，以更快的速度创作出出版的作品。一些著名期刊已经采取预防措施，防止内容被发表。

去年， 《自然》杂志发表了一份措辞严厉的声明，称其不会允许任何人工智能生成的图像或视频出现在其期刊中。 《科学》杂志旗下的期刊系列禁止在未经编辑许可的情况下使用人工智能生成的文本、图像或图表。 《自然》杂志的编辑委员会表示，经过数月的深思熟虑后，他们做出了这一决定，这主要源于验证用于生成人工智能内容的数据的困难。该委员会还对图像生成器无法正确注明艺术家的作品来源表示担忧。

负责开发这些工具的 AI 公司目前正在应对来自艺术家和作家的一系列诉讼，他们称这些工具非法生成经过受版权保护的材料训练的图像。除了归属问题之外，生成式 AI 工具还倾向于生成在事实或概念上不准确的文本和图像，研究人员将这种现象称为“幻觉”。此外，研究人员警告称，AI 生成的图像可用于创建逼真的假图像，也称为深度伪造，他们说这些图像可用于使错误数据或不准确结论可信。所有这些因素都对希望发表 AI 生成材料的研究人员或期刊提出了挑战。

“世界正处于人工智能革命的边缘，” 《自然》杂志的编辑委员会去年写道。“这场革命前景广阔，但人工智能——尤其是生成式人工智能——也在迅速颠覆科学、艺术、出版等领域长期确立的惯例。在某些情况下，这些惯例需要几个世纪才能发展起来，但其结果是建立了一个保护科学诚信和保护内容创作者免受剥削的系统。如果我们在处理人工智能时不小心，所有这些成果都面临瓦解的风险。”