一研究者凭空多了两篇不存在的论文,还被人引用了?推测是AI生成的参考文献
2023年6月,丹麦的一位研究家Henrik Enghoff收到一封电子邮件,显示他有论文被一项发表在Preprints.org上的新研究所引用。但是他下载了这项研究后,发现研究主题与他的研究领域有些偏离。
注:Preprints.org是出版商MDPI的预印本平台
他被引用了两篇论文,进一步检查发现,这两篇论文虽然署了他的名字,却根本不是他写的,更离谱的是,这两篇论文压根就不存在。目前这项新研究已经被撤稿。
难道是有人虚构了研究,并署上了Enghoff的名字?
哥本哈根大学的David Richard Nash表示,几个月前,他一直在试验ChatGPT的作用,看看是否可以用来查找文献。他要求ChatGPT提供研究领域的最新10篇参考文献,ChatGPT给出了10篇论文,但是只有一篇是真实存在的。
在得知Enghoff的情况后,Nash向Preprints.org发送了一封电子邮件,称他在这项研究中随机找了5篇参考文献,发现都是虚构的。他指出ChatGPT等人工智能工具可能在此发挥了作用,建议出版商联系作者给出解释,并审查人工智能生成内容和参考文献的相关政策。
出版商MDPI的编辑收到邮件后,表示会立即撤稿该预印本文章,并将文章作者添加到黑名单中。MDPI的工作人员Ioana Craciun也证实Preprints.org“删除了一篇似乎是由人工智能生成的文章”。
根据Preprints.org网站的介绍:
所有预印本文章在发布到网站之前都会经过简短的审查。大多数情况下,该过程不超过 24 小时。审查包括检查基本的科学内容、作者背景以及是否遵守伦理标准。由Preprints.org 工作人员在活跃研究者和顾问委员会的支持下进行。
Craciun解释称,由于预印本文章不经过同行评审,人工智能生成的内容更有可能在不被发现的情况下发布到预印本平台上。这不仅是Preprints.org面临的挑战,也是所有预印本平台、出版商、高校和整个学术界面临的挑战;希望能有更强大的工具来协助检测人工智能生成的内容,并且能对参考文献进行更仔细的检查。
